llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分18
llama.cpp b11968 发布:为 gemm_q6_K_8x8_q8_K 内核加入 SVE 256 bit 实现
b11968
AI 导读
llama.cpp 发布 b11968,为 gemm_q6_K_8x8_q8_K 内核加入 SVE 256 bit 实现。该 q6_k GEMM 改动按评审意见清理,移除了 pg16_8,将 switch 改为 if,并把 q8_k_blocklen 标记为 UNUSED 以消除非 i8mm 场景的警告。
来源:llama.cpp Releases · github.com