先了解这件事
2026年10月9日,Seed团队报告DeepSeek V4及V4.1-Flash在压缩KV缓存中的检索存在相位敏感现象。据X.PIN当日13时49分报道,该团队预印本称同一信息在压缩KV-cache块中的位置不同,检索难度也不同,长上下文检索准确率在不同位置间最多相差40个百分点,作者指出平均基准分数可能掩盖这些反复出现的薄弱点,且该发现针对检索而非所有已报告的模型异常。据量子位当日15时11分报道,DeepSeek-V4系列在长上下文检索中会随信息位置出现周期性波动,同一信息换位置后准确率最高相差40.2个百分点,研究把原因指向其采用的分块KV Cache压缩,并将这种现象命名为相位敏感性,波动周期与压缩步长一致;团队还以Qwen3-0.6B架构从头训练多种压缩方案验证,建议评测此类模型时按不同压缩相位分别测试。目前尚无后续发展。
AI 根据公开报道生成
最新进展 · 正式报道
字节 Seed 发现 DeepSeek-V4 时强时弱源于分块 KV Cache 压缩事件进展
1 个已确认进展
- 来源：量子位
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月9日
量子位
字节 Seed 发现 DeepSeek-V4 时强时弱源于分块 KV Cache 压缩
字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中会随信息位置出现周期性波动，同一信息换位置后准确率最高相差 40.2 个百分点。研究把原因指向其采用的分块 KV Cache 压缩，并将这种现象命名为相位敏感性，波动周期与压缩步长一致。团队还以 Qwen3-0.6B 架构从头训练多种压缩方案验证，建议评测此类模型时按不同压缩相位分别测试。
X.PIN
Seed 团队预印本报告 DeepSeek V4 与 V4.1-Flash 存在相位敏感性
Seed 团队的一篇预印本报告称，DeepSeek V4 和 V4.1-Flash 存在相位敏感性：同一信息在压缩 KV-cache 块中的位置不同，检索难度也会不同。该技术降低了内存与注意力开销，但长上下文检索准确率在不同位置间最多相差 40 个百分点。作者指出，平均基准分数可能掩盖这些反复出现的薄弱点，且该发现针对的是检索，而非所有已报告的模型异常。