MomingWeb

LLM 知识

大语言模型：按「了解 → 使用 → 深入」三档递进的系统笔记。

了解 （11）
  1. 1. LLM 是什么：从「续写机器」到能力涌现
  2. 2. 术语地图：token、参数、上下文、温度、embedding
  3. 3. 模型家族与选型：闭源/开源、基座/指令/推理、尺寸档位
  4. 4. 模型量化是什么：FP16→INT4 到底在换什么
  5. 5. 微调 / LoRA / RAG / Agent：四个词各解决什么问题
  6. 6. 上下文窗口与「记忆」：为什么它记不住
  7. 7. 幻觉与可靠性：什么时候能信，怎么验证
  8. 8. 成本与速度：token 计价、延迟从哪来
  9. 9. 数据与合规边界：什么内容不能喂给模型
  10. 10. 一次请求的旅程：从按下回车到看到字
  11. 11. 无标题结构示例（用于文内目录显隐验证）
使用 （11）
  1. 1. 跑通第一个本地模型：Ollama / LM Studio
  2. 2. 模型文件与量化档位：GGUF、safetensors、显存估算表
  3. 3. 本地推理服务：llama.cpp / vLLM，并发与上下文预算
  4. 4. API 使用与参数：system、温度、max_tokens、流式、重试
  5. 5. 提示与上下文工程实操：模板、few-shot、格式约束
  6. 6. 本地 RAG：切块、embedding 模型、向量库、引用与评测
  7. 7. 工具调用与 Agent 实操：schema、循环、超时与回滚
  8. 8. 数据集准备：采集、清洗、去重、jsonl、质检
  9. 9. 微调实操：LoRA/QLoRA 单卡跑通、参数选择、过拟合判断
  10. 10. 继续预训练与训练：多卡、并行、成本估算，以及为什么多数人不该自己训
  11. 11. 上线与运维：量化上线、缓存、监控与成本看板
深入 （4）
  1. 1. Transformer 结构速览
  2. 7. 预训练与微调
  3. 8. 对齐：SFT、RLHF 与 DPO
  4. 9. 推理优化与部署