跳到正文
llama.cpp Releases· developer0hye·· 3 小时前AI 评分15

llama.cpp b11965:移除 DSV4 的简单批次拆分

b11965: llama : remove simple batch splitting for DSV4 (#31300)

AI 导读

llama.cpp 发布 b11965 版本,移除 DeepSeek V4 的简单批次拆分,改用现有序列拆分使 n_seq_tokens 与 compressor padding 计算保持一致。同时修复 DSV4 compressor padding 问题,按序列统计实际 token 数,并新增针对奇数尺寸 DeepSeek V4 与 V4.1 批次的图复用回归测试,覆盖 6-token 批次。

来源:llama.cpp Releases · github.com