跳到正文
原文
量子位· 闻乐·· 3 小时前精选AI 评分66

字节 Seed 发现 DeepSeek-V4 时强时弱源于分块 KV Cache 压缩的相位敏感性

字节找到了DeepSeek时强时弱的原因

AI 导读

字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中的表现会随信息位置以固定周期起伏,他们把这一现象命名为相位敏感性,并归因于模型采用的分块 KV Cache 压缩。

推荐理由

字节 Seed 团队把 DeepSeek-V4 长上下文表现随输入位置周期性起伏的原因定位到分块 KV Cache 压缩,并给出可复现的相位敏感性证据。

来源:量子位 · qbitai.com