这一篇是后面所有笔记的名词表。不需要背，遇到不懂的回来查。
核心名词
| 术语 | 一句话解释 | 最常见的误解 |
|---|
| token | 模型眼里的文字单位，约等于「半个到一个词」；中文常 1 字 ≈ 1～2 token | 以为是「字」或「单词」，于是算错成本 |
| 参数 | 模型内部的可调数字，决定它如何预测下一个 token | 以为参数是「存下来的知识条目」 |
| 上下文窗口 | 一次请求里模型能同时看到的全部文字上限（含你的问题、历史、检索结果、它要写的回答） | 以为窗口 = 记忆，或以为窗口内每部分被同等对待 |
| 温度 | 采样时把概率分布「拉平」还是「压尖」的旋钮：低更稳定重复，高更多样更容易错 | 以为是「聪明程度」开关 |
| top-p / top-k | 只在概率最高的一小撮候选里抽，避免抽到冷门怪词 | 以为调了它就一定更准 |
| embedding（向量） | 把一段文字变成一串数字，语义相近的文字数字也相近 | 以为它能判断「真假」，其实只判断「像不像」 |
| 预训练 | 用海量文本训练「预测下一个 token」的底座 | 以为预训练完就能对话 |
| 指令微调 / SFT | 用「问题→好回答」样本教它按人类期望的形式回应 | 以为这一步灌入了新知识 |
| 对齐 / RLHF / DPO | 用人类偏好把回答调得更安全、更有用 | 以为对齐 = 变聪明（常反而变保守） |
| 幻觉 | 生成流畅但没有依据的内容 | 以为是「它在撒谎」，其实是它没有真假校验机制 |
工程相关名词（了解层只需知道是什么）
| 术语 | 一句话解释 |
|---|
| 量化 | 把模型权重存得更粗，换更小的显存和更快的速度，代价是精度 |
| GGUF / safetensors | 模型文件的两种打包格式（一个是本地推理常用，一个是训练侧常用） |
| KV cache | 生成时缓存已算过的中间结果，避免每写一个字都从头重算 |
| 推理 / 前向 | 让模型跑一遍算出输出，相对于「训练」而言 |
| 基座模型 | 只做过预训练、没教过对话的原始模型 |
| 指令模型 | 教过对话的模型，日常用的都是这种 |
| 推理模型 | 会先生成一段内部推演再给答案的模型，慢但常更稳 |
| MoE（专家混合） | 每次只激活网络的一部分，参数总量大但计算量小 |
| 蒸馏 | 用大模型的输出训练小模型 |
| 上下文工程 | 组织「喂给模型的文本」的实践：放什么、放多少、放哪里 |
| RAG | 先检索资料再把资料塞进上下文让它回答 |
| Agent / 工具调用 | 让模型调用外部函数（搜索、执行代码）并根据结果继续 |
| system prompt | 开发者预先塞进上下文的角色与规则说明 |
三个容易混淆的对子
- 参数 vs 上下文：参数是它天生会什么，上下文是这次它看到什么。参数改不了（除非训练），上下文每次都能改。
- 知识 vs 格式：微调擅长改格式和话术，不擅长灌新知识；灌知识靠上下文（RAG）。
- 快 vs 便宜：延迟低不等于成本低，两者由不同因素决定（详见「成本与速度」）。