模型家族与选型：闭源/开源、基座/指令/推理、尺寸档位
选型不是「哪个最强」，而是「我的约束下哪个够用」。三个维度各自独立，组合起来才是候选。
维度一：闭源 API 还是开源自托管
| 闭源 API | 开源自托管 | |
|---|---|---|
| 起步成本 | 几乎为零，注册即用 | 需要硬件与运维 |
| 质量上限 | 通常最高 | 头部开源已接近，长尾差距明显 |
| 数据流向 | 文本离开你的机器（各家条款不同） | 完全不出内网 |
| 单位成本 | 按 token 付费，量大后很贵 | 硬件固定成本，量大后摊薄 |
| 可控性 | 参数与提示之外都不可控 | 可微调、可量化、可换采样策略 |
| 隐性成本 | 供应商改价、改模型、限流 | 你需要自己负责可用性 |
一句话：数据不能出去 → 只能自托管；不想运维 → 只能 API；量特别大 → 自托管才划算。
维度二：基座 / 指令 / 推理
- 基座模型：只会续写。你问「你好」，它可能接「你好，请问有什么可以帮您？你好，请问……」这种复读。除非你要自己训练，否则不要用它。
- 指令模型：教过对话，日常所有场景的默认选择。
- 推理模型：先输出一段推演再给结论。数学、代码、多步规划上更稳，代价是更慢、更贵、更不适合闲聊与简单抽取。
维度三：尺寸档位（数量级，不是具体型号）
| 档位 | 大致能力 | 需要的机器（量化后） |
|---|---|---|
| 1B～3B | 简单改写、分类、抽取；推理与长文容易崩 | 手机 / 普通笔记本 |
| 7B～9B | 日常问答、短代码、摘要够用；复杂推理不可靠 | 16GB 内存笔记本 |
| 14B～32B | 明显更稳的写作与代码，能处理较长上下文 | 单卡 12～24GB 显存 |
| 70B 级 | 复杂推理、长文一致性、少返工 | 多卡或高显存工作站 |
| 超大 MoE | 接近前沿闭源水平；每次只激活一部分参数 | 服务器级，通常不值得个人搞 |
规律：同代模型，能力大致随档位平滑上升，不存在「小模型调好提示词就能顶大模型」的普遍奇迹。 反过来，任务足够窄时，小模型 + 好上下文常常比大模型 + 差上下文更划算。
选型三问
- 数据能不能出去？ 不能 → 开源自托管，档位受限于你的硬件。
- 质量门槛在哪？ 「错了无所谓」（草稿、内部检索）→ 小模型；「错了要赔钱」（对外、法务、医疗）→ 上大模型并加核查环节。
- 量有多大？ 每天几十次调用 → API 更省；每天百万次且任务固定 → 自托管小模型可能便宜一个数量级。
一个实用结论
先别问「用什么模型」，先问「这个任务的最小可用质量是多少」。把这条线定下来，档位自然就选出来了；剩下的只是成本比较。