跳到正文
原文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分12

llama.cpp b11339 修复 kpool 重池边界越界问题

b11339

AI 导读

llama.cpp 发布 b11339,将 kpool 重池上界收紧到 n_pool_real,修复批次填满整个缓存时 n_new_g 越界、导致首次全上下文解码触发 ggml-alloc 图重分配的问题。该改动同时简化了测试函数签名,并新增 n_pool_max 上限约束。

来源:llama.cpp Releases · github.com