llama.cpp Releases· ServeurpersoCom·· 14 小时前AI 评分12
llama.cpp b11644 修复普通 KV cache 的 PARTIAL_ONLY 处理
b11644: kv-cache: honor PARTIAL_ONLY in the plain KV cache (#30514)
AI 导读
llama.cpp 发布 b11644，修复普通 KV cache 忽略 PARTIAL_ONLY 标志的问题：此前非 SWA 的 llama_kv_cache 在 state_write 时会序列化全部 cell。
来源：llama.cpp Releases · github.com