DeepSeek 技术报告精读手册：演进、对比与原理拆解

你的困难不是「看不懂中文」，而是缺少承接新术语的框架。技术报告的写法是：默认读者已经知道上一代方法，于是只写「相对于上一代，我改了什么」。所以直接从头读，会不断撞到没有定义的词。

推荐的顺序是四遍法，每一遍只解决一个问题，刻意忽略其余内容：

不用背，扫一眼即可。后文每个术语都会有独立小节，这里只建立「它大概是什么」的印象。

把 DeepSeek 的迭代看成一条不断解方程的主线：每一个版本都在解「更强的能力」与「更低的成本」之间的同一个矛盾，只是每一代换了一个约束条件。下面 12 个节点，点击任意一个即可展开该版本的技术要点。

把 12 个版本压缩成六个「架构世代」。注意阅读顺序：从左到右不是模型变大，而是同一个矛盾被换了一种解法。

这张表是全文最值得反复回看的一张。注意两点：「激活」那一列的增长远慢于「总量」；上下文在变长的同时，KV Cache 在变小。

做横向对比时，最容易犯的错是「把各家的跑分直接摆在一起比大小」。不同厂商的评测设置（思考强度、是否用工具、采样次数、提示词模板）都不一样，分数只有落在同一张表里才有可比性。所以下面先看一张「谁的评测表」，再看结构性差异。

下面这张图的数字全部来自 DeepSeek-V4 技术报告的横向评测表 —— 也就是说，这是 DeepSeek 自己选定的对手、自己设定的评测条件。读竞品报告时，时刻记住这一点：它是一份「我方视角」的证据。点击切换指标，看不同能力维度上的座次如何变化。

这是三家最本质的差异，也是 Agent 时代最容易被忽略的一点。当一个 Agent 反复读取同一份代码仓库、同一套工具说明、同一段系统提示时，它读的大部分 token 是可以命中缓存的。所以真正决定账单的，是「缓存命中的那一档多少钱」。

DeepSeek 把缓存命中的价格压到了输入价的 1/50（$0.003 vs $0.15）；而 Claude Opus 5 的缓存命中价是 $0.50，相对输入价（$5）是 1/10。同样的复用场景，账单差异会被放大到十倍以上。拖动下面的滑块，用你自己的场景算一遍。

把上表读成一句话：DeepSeek 卖的从来不是「最聪明」，而是「单位智能的价格」。三家在能力上的差距通常在几个百分点到十几个百分点之间，而在价格上可以差一到两个数量级。这也解释了为什么 V4.1-Flash 一发布就敢宣布「全面超越 V4-Pro 并接替主力」——在 Agent 场景里，成本本身就是能力的一部分。（「接替主力」这一步随后被官方收回：V4-Pro 至今仍在服务，见 1.1 时间线与附录 B。）

这一部分是全篇的主菜。每个概念都按同一个模板展开：① 它要解决什么问题 → ② 不这么做会怎样 → ③ 具体怎么做（含公式） → ④ 动手试一试 → ⑤ 需要的前置知识。公式不会全部展开推导，但每一个符号都会告诉你它在说什么。

建议读法：先读「问题」和「直觉」两段，跳过公式往下读实验；等实验看懂了，再回头读公式，你会发现公式其实是实验的数学缩写。

要解决的问题。语言里的词义是相互决定的。「苹果」在「我吃了一个苹果」和「苹果发布了新手机」里完全是两个意思。注意力机制就是让每个词去「看」上下文里所有其他词，然后按相关度加权求和，得到自己的新表示。

核心公式。每个词会被投影成三个向量：Query（我要找什么）、Key（我是什么）、Value（我携带的信息）。相关度就是 Query 与 Key 的点积：

不这么做会怎样。生成文本是一个词一个词往外吐的。生成第 1000 个词时，前 999 个词的 Key 和 Value 都必须重新算一遍 —— 而它们的值其实没变过。这个重复计算是纯浪费，于是有了 KV Cache：把已经算过的 K、V 存下来，新词只算自己的 Q，然后去查缓存。

于是成本转移了。计算省了，但显存被吃掉。缓存大小与上下文长度成正比，与层数、注意力头数、每个头的维度成正比：

要解决的问题。上一节的缓存公式里，有四个乘数可以被优化：层数（结构决定，动不了）、头数、头维度、以及「存 K 和 V 两份」。已有的 GQA / MQA 方案是靠让多个头共享同一份 K、V 来省缓存，省得多但会损失表达能力 —— 相当于用「减少分辨率」换空间。

MLA 的思路完全不同：不减少头，而是压缩内容。它不直接存 K、V，而是把 K 和 V 联合投影到一个低维的「潜在向量」c 上，只缓存 c。用的时候再把 c 上投影（升维）还原成各头的 K、V。

但压缩会撞上一个硬钉子：位置编码。RoPE（旋转位置编码）的原理是给 Q、K 乘一个随位置旋转的角度，让模型感知「谁在前谁在后」。问题在于：如果 K 存的是压缩后的 c，那么位置信息就没法在还原之后再干净地加回去了 —— 旋转操作和低秩压缩不满足交换律。

解决办法叫「解耦 RoPE」。把 Key 拆成两路：一路走压缩还原（负责内容），另一路单独保留一小段维度（64 维）专门承载位置旋转（负责顺序）。两路拼起来用。代价是多了 64 维的缓存，但换来了压缩与位置编码的兼容 —— 这个细节是 MLA 能真正落地而不只是纸上谈兵的关键。

要解决的问题。模型越大学得越多，但每个词都跑完整模型，成本会线性上涨。能不能「保留大模型的容量，却只支付小模型的计算」？

做法。把一个巨大的前馈网络（FFN）拆成许多个小专家（Expert），前面放一个「路由 / 分诊台」（Router）。每个 token 进来时，Router 算出它和每个专家的匹配分数，只把 token 发给分数最高的 K 个专家，最后把这 K 个专家的输出加权求和。

要解决的问题。MoE 里有个恶性循环：某几个专家一开始被选中得多 → 收到的训练信号多 → 变得更强 → 以后更容易被选中。最后 256 个专家里可能只有十几个在工作，其余全部荒废。学术上叫路由崩塌（routing collapse）。

传统解法：加惩罚项。在损失函数里加一个「负载不均衡惩罚」（辅助损失 / auxiliary loss），谁被选得太频繁就罚谁。但这就引入了新矛盾：你为了均衡而扭曲了模型的优化目标，均衡得越好，语言建模本身可能越差。这是一种「用主任务性能换工程稳定」的交易。

DeepSeek-V3 的解法：不碰损失函数，改调一个偏置。给每个专家维护一个偏置项 b_i，这个偏置只参与路由决策，不参与最终输出的加权：

要解决的问题。标准语言模型的训练目标是「预测下一个词」。这个任务有个副作用：模型只需要盯着眼前一步就能拿到不错的奖励，不必规划更远的语义结构，学到的表示偏「局部」。

做法。在训练时给模型加几个额外的预测头，让它在每个位置同时预测未来 2 个、3 个词（V3 用一步 MTP，V4 沿用了这个设计）。这会强迫隐状态里编码更多「接下来会发生什么」的信息。

要解决的问题。训练万亿参数模型时，显存和显卡间通信都是瓶颈。而传统训练用 BF16（16 位）存每一个数。如果把参与矩阵乘的数字压缩到 8 位甚至 4 位，显存和带宽立刻减半甚至减到四分之一。

难点在哪。不是「能不能压」，而是「压了之后模型会不会训崩」。低精度的核心风险有两类：动态范围不够（数值太大溢出成无穷，或太小归零）；有效位数不够（相近的两个数被压成同一个值，梯度更新失效）。所以低精度训练的工程细节 —— 分块量化、把累加算在更高精度上、关键层保留高精度 —— 才是真正的壁垒。DeepSeek-V3 是第一个把 FP8 训练在超大规模模型上跑通并公开验证的案例。

要解决的问题。监督微调（SFT）的本质是模仿：人类写出好答案，模型学着复现。但模仿有个天花板 —— 模型无法超越示范数据的水平。强化学习（RL）换了个思路：让模型自己尝试多种解法，做对了就加强、做错了就削弱，能力上限由模型自己探索决定。

常规 RLHF 怎么做。先训练一个奖励模型（RM）给答案打分，再用 PPO 算法优化策略。PPO 有个开销：它需要一个「价值网络」（critic）来估计当前状态的平均期望收益，作为判断「这次比平均好多少」的基准 —— 而这个价值网络的大小通常和策略模型相当。对 671B 的模型来说，等于再养一个 671B。

GRPO 的关键简化：用「同组对比」代替「价值网络」。同一道题，让模型采样一组（比如 16 个）答案，把这一组的平均分当作基准。某个答案比组内平均好，它的概率就被推高；比平均差就被压低。基准不用学，直接从组内算出来。

奖励从哪来，决定了模型往哪跑。奖励有两类来源：可验证的规则（答案对不对、代码能不能过测试、格式对不对）和学习出来的神经奖励模型（模仿人类偏好的打分器）。R1-Zero 刻意只用了前者。

原因是奖励攻击（reward hacking）。只要是学出来的打分器，它就一定有可被利用的漏洞。在成千上万步的 RL 里，模型会以远超人类预期的效率找到这些漏洞 —— 比如输出特别长、特别自信、特别会迎合打分器口味的文字，从而拿到高分，却并没有真正解决问题。而且奖励模型一旦被「攻破」，你还得重新训练它，训练流程变得又贵又复杂。

规则奖励的代价同样明确。它只能用在「有客观对错」的任务上：数学题可以核对答案，代码可以跑测试用例，形式逻辑可以验证。至于写作品评、开放问答、角色扮演这类没有唯一答案的任务，规则打分无能为力 —— 这直接把 R1-Zero 的训练分布限制在了可验证领域。所以 R1 的后续阶段引入了生成式奖励模型与人类偏好数据来补上通用能力。

要解决的问题。671B 的模型能推理，但没人想在本地跑它。小模型直接做 RL 效果很差 —— 它连像样的解题路径都采样不出来，也就无从被激励。怎么办？

做法。让大模型当老师，把它的推理过程写成大量数据，拿去微调小模型。DeepSeek-R1 用这种方式开源了 6 个稠密学生模型（1.5B / 7B / 8B / 14B / 32B / 70B，分别基于 Qwen 与 Llama）。

报告里最关键的一个发现。以 Qwen2.5-32B 为基座时，直接从 R1 蒸馏的效果，优于在这同一个模型上做强化学习。这句话的含义很重：它说明「推理模式」是一种可迁移的能力，而且大模型发现的推理模式，小模型自己很难探索出来。

要解决的问题。标准注意力要让每个词跟所有词配对，复杂度是 O(L²)。10 万 token 是 100 亿次配对；100 万 token 是 1 万亿次 —— 这在工程上直接不可行。

关键观察：绝大多数配对是浪费的。写代码时，第 5000 行的括号该跟哪一层配对，其实只取决于少数几个位置。如果能先廉价地判断「哪些历史位置真正重要」，再只为这些位置做完整注意力计算，成本就能降一个数量级。

做法（两阶段）。第一阶段，用一个极轻量的索引器（Lightning Indexer）给所有历史 token 打相关性分数 —— 它只做点积，不做完整的注意力，成本接近线性。第二阶段，只取分数最高的 K 个 token，在这 K 个上做完整的注意力计算。这就是 DeepSeek Sparse Attention（DSA）。

要解决的问题。DSA 解决的是「看哪些词」，但长上下文还有第二个瓶颈：即使只挑少数词，KV 本身的存储量仍然与长度成正比。而且不同距离上的信息需要不同的处理方式 —— 紧邻的词要精确，远处的词只要概要，中距离的词要能检索。

做法：用三条互补的注意力分支，各管一段距离。这是 DeepSeek-V4 的核心创新。

官方数据：在 1M 上下文设置下，V4-Pro 单 token 推理的计算量（FLOPs）只需 V3.2 的 27%，KV Cache 只需 10%。这两个数字就是混合注意力架构的全部意义。

到 V4.1-Flash，这条路线又推进一步：CSA2 让每一层在 Full / Reindex / Reuse 三种模式里静态分工，共享主 KV 与索引，复用 Top-K 索引结果；解码器中再加一个层次化稀疏索引器，把后段索引限制在由首个 Full 层构造的候选池内，使深层索引成本与上下文长度脱钩。配合 FP4 主 KV 缓存，全局 KV 压到 890 字节 / token。

要解决的问题。看一个真实的 Agent 任务：读入 30 万 token 的代码仓库、工具说明、历史对话，最后只想输出 200 个 token 的代码修改。输入和输出的规模差了三个数量级，但传统 Transformer 对两者用同一套参数、同样的计算方式 —— 这是巨大的结构性浪费。

做法。V4.1-Flash 把 40 层 Transformer 拆成 20 层因果编码器 + 20 层解码器：编码器专门负责把输入压成一套表示；解码器负责生成。关键在于——

mHC 要解决的问题。Transformer 靠残差连接（把输入直接加到输出上）让梯度能顺畅地穿过上百层：h_l+1 = h_l + F(h_l)。但当层数继续堆叠，单条残差通道会变成瓶颈 —— 信号要么被稀释，要么被逐层放大。一个自然的想法是：把一条通道扩展成多条并行通道，让网络自己学习怎么混合它们（这就是 Hyper-Connections）。可引入更多自由度的同时，也引入了不稳定性。

mHC 的解法是给混合矩阵加「流形约束」。把那些负责混合的矩阵限制在一个性质良好的矩阵集合（流形）上 —— 比如保持范数、保持正交性 —— 这样多路混合既保留了表达力，又不会在深层传播中失控。V4.1-Flash 进一步做了 Single-Pass mHC 与高效的 Mega-mHC 内核，把这份额外的稳定性开销压下来。

Muon 要解决的问题。主流优化器 AdamW 是「逐元素」调节学习率的：每个参数单独根据自己的历史梯度调整步长。它很好用，但对一个巨大的权重矩阵来说，它并不知道「这个矩阵整体的更新方向是否合理」。Muon 的做法是对整个矩阵做近似正交化（常用 Newton-Schulz 迭代实现），让更新在各个方向上尺度更均衡，从而收敛更快、训练更稳 —— 这在万亿参数规模上尤其重要。

要解决的问题。语言里有大量内容是「固定搭配」和「事实」：「北京的省会是……」这类信息，用矩阵乘法去反复运算它，是很昂贵的表达方式。人脑处理这类知识的方式更接近检索，而不是重新推理。

做法。Engram 模块的思路是把「可扩展的查表（lookup）」作为一条新的稀疏轴：根据 token 直接检索一段记忆表示，再与后续计算结合。DeepSeek 的对应工作标题很直白 —— 《Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models》。

为什么说这是「新的稀疏轴」。MoE 稀疏的是计算（不激活的专家不参与矩阵乘）；Engram 稀疏的是存储（不命中的记忆条目根本不被读取）。两者的收益方向不同：前者省算力，后者省带宽。V4.1-Flash 中 Engram 模块有 196B 参数，按 token 稀疏访问。

要解决的问题。自回归生成是串行的：出一个词 → 算一次前向 → 再出一个词。但 GPU 是高度并行的硬件，一个字一个字地喂给它，算力利用率极低。瓶颈不在计算，在「没法并行」。

做法。让一个便宜的小「草稿模型」（或模型自身的额外预测头）一口气猜出后面 k 个词，然后把这段草稿一次前向并行验证。验证时模型会算出每个位置上「正确答案应该是什么」，从头依次比对：连续的猜对部分全部接受，第一个猜错的位置截断、改用大模型的正确结果。关键点在于 ——验证 k 个词的成本，约等于生成 1 个词的成本，因为它是同一次前向。

要解决的问题。传统上模型的能力在训练完就固定了。但有些问题（复杂数学、长程规划）本来就需要更多思考步骤 —— 能不能在推理阶段「多花算力换准确率」？

做法。让模型生成长的思维链（Chain-of-Thought），把思考当作计算资源来花，这就是测试时计算扩展（test-time scaling）。工程上它表现为一个可调参数：思考强度 / 推理强度。DeepSeek-V4.1-Flash 把它做成了 1 到 100 的连续可调整数，官方建议复杂 Agent 场景设到 max 档。

要解决的问题。V4 的后训练是两阶段范式。第一阶段，为了让每个领域都做到最好，分别培养领域专家（数学的、代码的、Agent 的、写作的……）—— 它们靠 SFT 加 GRPO 强化学习各自做到很强。但上线时你只能部署一个模型，不能同时挂十几个专家让用户自己选。

做法：用同策略蒸馏（On-Policy Distillation, OPD）合并。「同策略」意味着：不是拿专家生成的固定数据集去训练学生，而是让当前学生模型自己走一遍、采样出自己的轨迹，再让专家在这些轨迹上给出指导信号，学生据此纠正。

为什么必须「同策略」。学生模型犯的错，和专家模型犯的错不是同一类。如果只在专家的输出分布上做模仿（离线蒸馏），学生只学会了「专家会怎么答」，却没学会「当自己走偏时该怎么回来」。而同策略蒸馏纠正的正是学生自己会走到的那些状态，所以合并后的模型在统一行为上更稳。

下面是本手册引用的原始资料清单。建议的读法是「先读本手册的对应小节，再点进原始报告只看那一节」，而不是从头啃论文。链接如失效，请在 arXiv 或官方 GitHub 按标题检索。