llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分12
llama.cpp b11582 为 ggml-zdnn 引入 Q8_0 矩阵乘法
b11582
AI 导读
llama.cpp 发布 b11582,为 ggml-zdnn 后端引入 Q8_0 矩阵乘法,目前处于初始原型阶段,由 IBM 的 Aaron Teo 提交并同步更新了 zdnn 文档。该改动随版本提供 macOS、Linux、Windows、Android 及 openEuler 等多平台构建产物。
来源:llama.cpp Releases · github.com