llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分20
llama.cpp b11809 为 WebGPU 后端新增 Q2_0 量化支持
b11809
AI 导读
llama.cpp 发布 b11809,为 WebGPU 后端新增 Q2_0 支持,包含行反量化与矩阵乘法两项实现。该版本同时更新 macOS/iOS、Linux、Android、Windows 等多平台构建产物,覆盖 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 及 Snapdragon CPU/Adreno GPU/Hexagon NPU 等后端。
来源:llama.cpp Releases · github.com