跳到正文
llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分15

llama.cpp b11685 发布:为 q4_K/q5_K 权重反量化加入 SYCL 宽存储

b11685

AI 导读

llama.cpp 发布 b11685,为 q4_K/q5_K 权重的反量化加入 SYCL 宽存储(wide stores)优化。该版本同步更新了 macOS、Linux、Windows、Android 及 openEuler 等多平台构建产物,涵盖 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等后端。

来源:llama.cpp Releases · github.com