跳到正文
llama.cpp Releases· github-actions[bot]·· 16 小时前AI 评分12

llama.cpp b11621 发布:OpenCL 改用 buf+offset 优化 Adreno MoE 专家排序

b11621

AI 导读

llama.cpp 发布 b11621 版本,其 OpenCL 后端改用 buf+offset 替代 subbuffer,用于 Adreno GPU 上的 MoE 专家排序(#30418)。该版本同时提供 macOS、Linux、Windows、Android 及 openEuler 等多平台构建,覆盖 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。

来源:llama.cpp Releases · github.com