llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分18
llama.cpp b11811 为 KleidiAI 新增 Q8_0 SVE dotprod GEMV 与 SVE i8mm GEMM 内核
b11811
AI 导读
llama.cpp 发布 b11811,在 KleidiAI 后端新增 Q8_0 SVE dotprod GEMV 和 SVE i8mm GEMM 两个内核(#30808)。该版本构建覆盖 macOS、Linux、Windows、Android 及 openEuler 平台,其中 macOS Apple Silicon 的 KleidiAI 构建仍标记为 DISABLED。
来源:llama.cpp Releases · github.com