字节 Seed 揭示 DeepSeek-V4 长上下文性能漂移：分块 KV 缓存压缩致相位敏感性，检索准确率波动达 40%

字节跳动 Seed 团队在 arXiv 发表论文，深度剖析了 DeepSeek-V4 模型在长上下文任务中出现的显著性能漂移现象。研究指出，该模型采用的分块 KV 缓存压缩技术虽然有效降低了内存成本，但引入了“相位敏感性”这一关键缺陷，导致相同信息在不同 Token 位置下的检索难度存在系统性不对称，大型开放权重模型的检索准确度波动幅度高达 40 个百分点。

多方信源交叉验证显示，DeepSeek-V4 在 128K 长文本检索测试中表现出“神鬼二象性”，仅改变无关填充 Token 的数量（以 4 为周期），即可导致模型回答在正确与错误之间反复横跳，最大准确率差距达 40.2 个百分点。这一发现揭示了当前基于平均分的评测体系可能掩盖了模型在特定输入位置上的周期性弱点，建议评估时需针对信息在不同压缩相位下的表现进行独立细粒度测试。

该事件对 AI 基础设施优化具有深远影响，警示开发者在追求推理效率时需谨慎权衡压缩算法带来的精度损失。它推动了行业从单一平均分评测向多维相位感知评估体系的转型，促使大模型厂商重新审视长上下文处理机制的鲁棒性，为后续高效能、高稳定性的长文本模型架构设计提供了重要理论依据。