大模型基础原理
所属：阶段一 · 前置核心基础 目标：建立对 LLM 的应用层认知：能看懂模型能力边界、合理设置采样参数、理解上下文窗口限制。
📌 学习目的
建立对 LLM 的应用层认知：能看懂模型能力边界、合理设置采样参数、理解上下文窗口限制。
✅ 学习要求（前置条件）
无（概念为主），可与「06_llm_api_in_practice」并行。
📚 主要学习内容
- LLM / Token / 上下文窗口与计费
- 采样参数：
temperature/top_p/top_k与工具调用场景推荐 0~0.3 - Embedding：把文本映射成向量，语义相近则向量距离近
- Function Calling：模型按 tools Schema 输出「调用哪个工具、传什么参数」
- 幻觉与 RAG 抑制思路
📖 对应 docs
- 目录：
docs/01-阶段一-前置核心基础/（按目录名里的第 X 篇对应） - 在 docs 目录里找到对应的小点 markdown 文件阅读详细理论。
🛠️ 建议练习
- 用同一 prompt 在不同 temperature 下生成 3 次，对比随机性
- 用 sentence-transformers 把 5 条相似语料烤成 embedding 并算两两余弦相似度
- 画一张「输入 → 上下文窗口 → 输出」的 token 流转图
🏁 完成后达成标准
- 能说清 Token / 上下文窗口 / 采样的语义
- 能给工具调用场景合理设置 temperature
- 能区分 Embedding 与 Function Calling 的用途
🚀 运行提示
# 激活根目录的虚拟环境
cd /Users/jack/source/Demo/py/demo_python_agent
source .venv/bin/activate # 或直接用 uv run ...
# 进入本章目录
cd code/001_phase1_foundations/05_llm_fundamentals
# 跑你的练习文件
uv run python your_exercise.py