跳到正文
热点事件持续更新

llama.cpp 修复 DSV4 批处理填充

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11965 版本,修复 DeepSeek V4 的 compressor padding 问题:改为按序列统计实际 token 数,并移除 DSV4 的简单批次拆分,改用现有序列拆分,使 n_seq_tokens 与 compressor padding 计算保持一致。 该版本同时新增图复用回归测试,覆盖奇数尺寸的 DeepSeek V4 与 V4.1 批次,其中包括 6-token 批次。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. llama.cpp Releases
    llama.cpp b11965:移除 DSV4 的简单批次拆分

    llama.cpp 发布 b11965 版本,移除 DeepSeek V4 的简单批次拆分,改用现有序列拆分使 n_seq_tokens 与 compressor padding 计算保持一致。同时修复 DSV4 compressor padding 问题,按序列统计实际 token 数,并新增针对奇数尺寸 DeepSeek V4 与 V4.1 批次的图复用回归测试,覆盖 6-token 批次。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。