跳到正文
llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分18

llama.cpp b11968 发布:为 gemm_q6_K_8x8_q8_K 内核加入 SVE 256 bit 实现

b11968

AI 导读

llama.cpp 发布 b11968,为 gemm_q6_K_8x8_q8_K 内核加入 SVE 256 bit 实现。该 q6_k GEMM 改动按评审意见清理,移除了 pg16_8,将 switch 改为 if,并把 q8_k_blocklen 标记为 UNUSED 以消除非 i8mm 场景的警告。

来源:llama.cpp Releases · github.com