跳到正文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22

llama.cpp b11918 为 OpenCL 后端加入 q3_k 量化初步支持

b11918

AI 导读

llama.cpp 构建 b11918 为 OpenCL 后端加入 q3_k 量化初步支持,包含 AOS/SOA mv、tiled mm 及面向 Adreno 的 noshuffle gemm/gemv 与 dp4a gemm 内核。该版本同时针对 Adreno 调优 q3_k kernel,并更新 macOS、Linux、Android、Windows 等多平台构建产物。

来源:llama.cpp Releases · github.com