# 大模型基础原理

> 所属：阶段一 · 前置核心基础
> 目标：建立对 LLM 的应用层认知：能看懂模型能力边界、合理设置采样参数、理解上下文窗口限制。

---

## 📌 学习目的

建立对 LLM 的应用层认知：能看懂模型能力边界、合理设置采样参数、理解上下文窗口限制。

## ✅ 学习要求（前置条件）

无（概念为主），可与「06_llm_api_in_practice」并行。

## 📚 主要学习内容

- LLM / Token / 上下文窗口与计费
- 采样参数：`temperature` / `top_p` / `top_k` 与工具调用场景推荐 0~0.3
- Embedding：把文本映射成向量，语义相近则向量距离近
- Function Calling：模型按 tools Schema 输出「调用哪个工具、传什么参数」
- 幻觉与 RAG 抑制思路

## 📖 对应 docs

- 目录：[`docs/01-阶段一-前置核心基础/`](../../docs/01-阶段一-前置核心基础/)（按目录名里的 `第 X 篇` 对应）
- 在 docs 目录里找到对应的小点 markdown 文件阅读详细理论。

## 🛠️ 建议练习

- [ ] 用同一 prompt 在不同 temperature 下生成 3 次，对比随机性
- [ ] 用 sentence-transformers 把 5 条相似语料烤成 embedding 并算两两余弦相似度
- [ ] 画一张「输入 → 上下文窗口 → 输出」的 token 流转图

## 🏁 完成后达成标准

- [ ] 能说清 Token / 上下文窗口 / 采样的语义
- [ ] 能给工具调用场景合理设置 temperature
- [ ] 能区分 Embedding 与 Function Calling 的用途

---

## 🚀 运行提示

```bash
# 激活根目录的虚拟环境
cd /Users/jack/source/Demo/py/demo_python_agent
source .venv/bin/activate   # 或直接用 uv run ...

# 进入本章目录
cd code/001_phase1_foundations/05_llm_fundamentals

# 跑你的练习文件
uv run python your_exercise.py
```