跳到正文
llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分12

llama.cpp b11922 修复多序列 split replay 与部分状态测试

b11922

AI 导读

llama.cpp 发布 b11922,修复多序列 split replay 测试中训练模型回滚快照与参考上下文因 batch shape 不同导致的末位差异,改为仅比较每个序列首个重放 token。

来源:llama.cpp Releases · github.com