Transformer 结构速览

LLM 知识 · 深入 · 第 1 篇 更新于 2026-10-05

⚠️ 示例笔记(验收用),替换真实知识内容时直接删除本文件。

注意力机制

Q/K/V 三矩阵与缩放点积注意力。

位置编码

从绝对位置编码到 RoPE 的演进。