llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22
llama.cpp b11918 为 OpenCL 后端加入 q3_k 量化初步支持
b11918
AI 导读
llama.cpp 构建 b11918 为 OpenCL 后端加入 q3_k 量化初步支持,包含 AOS/SOA mv、tiled mm 及面向 Adreno 的 noshuffle gemm/gemv 与 dp4a gemm 内核。该版本同时针对 Adreno 调优 q3_k kernel,并更新 macOS、Linux、Android、Windows 等多平台构建产物。
来源:llama.cpp Releases · github.com