llama.cpp Releases· abhijain1204fujitsu·· 4 小时前AI 评分18
llama.cpp b11967：ggml-cpu 新增 mxfp4 gemv kernel 的 SVE 256-bit 实现
b11967: ggml-cpu: SVE 256-bit Implementation of mxfp4 gemv kernel (#28141)
AI 导读
llama.cpp 发布 b11967，在 ggml-cpu 中为 mxfp4 gemv kernel 加入 SVE 256-bit 实现，作者称性能提升相当可观。该实现已完成并通过评审意见修改，同时补充了 SVE 256 检查。
来源：llama.cpp Releases · github.com