跳到正文
量子位· 闻乐·· 4 小时前AI 评分62

字节 Seed 团队发现 DeepSeek-V4 时强时弱源于 KV Cache 压缩的相位敏感性

字节找到了DeepSeek时强时弱的原因

AI 导读

字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中的表现会随信息位置以 4 个 Token 为周期波动,原因是其分块 KV Cache 压缩带来的相位敏感性。

来源:量子位 · qbitai.com