llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分12
llama.cpp b11564 发布:Vulkan 后端优化 CM2 量化块大小
b11564
AI 导读
llama.cpp 发布 b11564 版本,针对 Vulkan 后端优化 CM2 量化块大小处理,改用三元表达式避免 switch 降级,并为 CM2 matmul 专门化量化块大小。该版本同时更新了 macOS、Linux、Windows、Android 等多平台构建产物,涵盖 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。
来源:llama.cpp Releases · github.com