字节找到了DeepSeek时强时弱的原因 – 量子位

2026-10-09 15:11:55 来源：量子位

答不答得对，得看Token站位

闻乐 发自 凹非寺

量子位 | 公众号 QbitAI

DeepSeek的神鬼二象性被字节Seed团队逮到了。

同一道题，什么都没改，只在前面多塞几个无关紧要的字符，模型突然就不会了？？？

而且还不是偶尔抽风。

Seed研究人员发现，DeepSeek-V4的表现竟然会随着信息的输入位置，每隔4个Token周期性变化。

啥意思？模型记不记得住一件事，居然还要看这件事在输入里站哪儿？？

前面多两个Token，答案可能从错变对，再多两个，又给你改回去。

好好好，模型答题也开始讲究站位了。

在128K长上下文检索测试中，研究人员发现，同一条信息只是换了个位置，DeepSeek-V4系列模型的检索准确率最高就能拉开40.2个百分点。

团队进一步发现，这个问题与DeepSeek-V4采用的一项长上下文优化技术有关——

分块KV Cache压缩。

这项技术本来是为了让模型处理长文本更省内存、更高效。

结果压缩之后，倒让模型时神时鬼了（doge）。

多两个Token，DeepSeek突然就答对了

字节Seed研究人员最开始是拿DeepSeek自己的代码做了个实验。

测试对象是DeepSeek-V4-Flash-Base。

他们从DeepSeek-V4的官方推理代码中截取了一段FP8量化函数，让模型补全最后一个Token。

任务的正确答案应该是8，因为这段代码需要完成FP8相关的类型转换。

但模型有时偏偏觉得应该补成32。

为了搞清到底咋回事，研究人员在代码前面加了一段纯装饰性的文档字符串，里面放着一些重复的等号。

然后，他们开始调整等号的数量。

代码本身没改、要补全的位置没改、正确答案当然也没改……唯一的变化，就是前面多了这几个没什么实际意义的Token。

结果，DeepSeek的答案开始反复横跳。

当填充长度落在某些位置时，模型更倾向于回答错误的32。

往前挪一两个Token，又开始倾向于正确的8。

再继续挪，错误答案又回来了——

整个过程以4个Token为周期重复。

更具体地说，在论文测试的16种填充长度中，当长度模4的余数为0或1时，模型倾向于错误答案32；余数为2或3时，则倾向于正确答案8。

研究人员还统计了模型给两个候选答案分配的概率。

在一组位置上，错误答案32的平均概率达到71.3%，正确答案8只有26.4%。

换到另一组位置，情况直接反过来：

正确答案8的平均概率升到91.5%，错误答案32只剩7.2%。

也就是说，前面几个无关字符的长度变化，足以让模型对同一道题产生截然不同的判断。

这就有点难评了。

程序员调试代码，通常先检查逻辑、变量和依赖。

现在看来，可能还得顺手检查一下，前面是不是多打了两个等号。

不过单个代码补全案例，还不足以说明问题有多普遍。

于是Seed团队继续扩大测试。

他们把目光转向大模型长上下文能力里很经典的一项任务，大海捞针。

研究人员构造了一段长达128K Token的上下文，里面包含约1.6万个键值对。

比如K1对应V1，K2对应V2……

然后让模型从中找出指定Key对应的Value。

测试过程中，键值关系不变，问题不变，上下文总长度也保持一致。

研究人员重点调整目标信息相对于压缩窗口边界的位置。

结果发现，DeepSeek-V4系列的准确率曲线，竟然呈现出非常明显的周期性起伏。

其中DeepSeek-V4-Flash-Base在不同位置之间的最大准确率差距达到40.2个百分点

DeepSeek-V4-Pro-Base也达到34.8个百分点。

经过后训练之后，情况有所改善。

DeepSeek-V4-Flash-0731的差距缩小到19.1个百分点，DeepSeek-V4-Pro-0813缩小到14.8个百分点。

而更新的DeepSeek-V4.1-Flash-0910，差距进一步降至6.1个百分点。

但周期性差异依然存在。

这种差异性是怎么来的呢？

再往细看，DeepSeek-V4的波动周期是4个Token，DeepSeek-V4.1则变成了2个Token。

研究人员发现，这恰好对应两代模型各自采用的KV Cache压缩步长。

好嘛，连答题表现的起伏周期，都和底层压缩配置对上了。

问题出在KV Cache压缩？

那咱就来说说KV Cache压缩。

大模型处理长上下文时，需要保存大量历史Token对应的Key和Value信息，供后续注意力计算使用。

上下文越长，这部分缓存占用的内存和计算开销就越大。

尤其是动辄几十万、上百万Token的长任务，KV Cache很容易成为推理效率的瓶颈。

所以DeepSeek-V4采用了分块KV Cache压缩。

思路是把连续的Token分成一个个窗口，再将窗口内的信息压缩成更少的缓存条目。

这样模型就不用为每个历史Token保留同样规模的缓存。

既节省内存，也能降低长上下文注意力计算的成本。

但Seed团队发现，DeepSeek出现神鬼二象性的原因可能就藏在这个分块过程里。

假设每4个Token构成一个压缩步长。

那么，同一条信息出现在窗口里的第1、第2、第3或第4个位置，压缩时所处的条件就可能不同。

论文把这种相对于压缩窗口边界的位置，称为Phase（相位）。

研究人员发现，模型对不同相位的信息，检索能力存在系统性差异。

他们把这种现象命名为Phase Sensitivity，相位敏感性。

打个比方，同样一份资料交给模型：

第一种排版，关键数字恰好落在模型容易保留的位置；

第二种排版，只是在前面多加几个字，关键数字相对于压缩窗口的位置变了。

资料还是那份资料，但模型之后能不能把数字找出来，可能就有明显差别。

而且，这种问题还不能简单归结为“信息刚好被切在两个窗口之间”。

研究人员发现，即使Key和Value都落在同一个压缩窗口里，不同位置的检索准确率也能相差很大。

这说明问题还涉及模型究竟如何把信息写入压缩缓存，以及之后如何从缓存中读取。

为了进一步确认，Seed团队干脆自己从头训练了一批模型。

他们以Qwen3-0.6B架构为基础，构造了多种KV Cache压缩方案，并设置没有分块压缩的全注意力模型作为对照。

重点只改变压缩机制，看看周期性波动会不会跟着出现。

结果，所有接受测试的分块压缩模型，都出现了与压缩步长对应的周期性变化。

反过来，全注意力基线模型没有出现同等程度的周期性。

研究人员还分别调整了窗口大小和压缩步长，发现周期主要跟着压缩步长变化。

步长为4，表现就以约4个Token为周期起伏；

步长为6，周期也跟着变成约6个Token；

步长为8，同样如此；

……

甚至不使用RoPE位置编码，或者把可学习的压缩权重换成简单平均，这种现象依然存在。

换句话说，问题并不是某个位置编码或者某个特殊模块单独造成的。

分块压缩这种设计本身，就可能引入周期性的检索弱点。

Seed团队进一步对注意力头进行干预，观察移除不同组件之后，模型在各个相位上的检索能力如何变化。

结果发现，不同注意力头对不同相位的贡献并不一样。

有些头更擅长处理某些位置的信息，另一些头则在其他位置上发挥更大作用。

研究人员将其称为Phase Specialization，相位专门化。

也就是说，模型内部似乎形成了一种分工：不同注意力组件，对压缩窗口里的不同位置产生了偏好。

这种分工可以帮助模型完成信息检索，却也可能让某些位置成为相对薄弱的环节。

论文还通过简化的理论模型分析了训练过程，发现梯度流可能推动压缩模块形成稳定的位置偏好。

这也解释了为什么这种周期性并非简单的随机噪声。它可能是模型在学习如何压缩信息时，自然而然形成的结果。

但这类问题未必能从普通Benchmark里直接看出来，因为常规评测通常会把大量测试结果汇总成一个平均分。

假设模型在某些位置表现很好，在另一些位置明显掉队，最后算出来的平均成绩可能依然不错。

所以Seed团队提出，评估采用分块KV Cache压缩的模型时，不能只看整体检索准确率，还得把同一条信息放到不同压缩相位上，分别测一遍。

可即便存在这种位置带来的性能偏差，长上下文推理的内存和计算成本摆在那里，压缩仍然有很现实的价值。

但节省缓存之后，模型对不同位置的信息，可能不再一视同仁。

当然了，从这次的实验结果看，后训练和架构迭代确实能明显缩小这种差距。

论文地址：https://arxiv.org/pdf/2609.36322

版权所有，未经授权不得以任何形式转载及使用，违者必究。