量子位· 闻乐·· 3 小时前精选AI 评分66
字节 Seed 发现 DeepSeek-V4 时强时弱源于分块 KV Cache 压缩的相位敏感性
字节找到了DeepSeek时强时弱的原因
AI 导读
字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中的表现会随信息位置以固定周期起伏,他们把这一现象命名为相位敏感性,并归因于模型采用的分块 KV Cache 压缩。
推荐理由
字节 Seed 团队把 DeepSeek-V4 长上下文表现随输入位置周期性起伏的原因定位到分块 KV Cache 压缩,并给出可复现的相位敏感性证据。
来源:量子位 · qbitai.com