跳到正文
llama.cpp Releases· newjordan·· 4 小时前AI 评分12

llama.cpp b11677 为 SYCL 后端支持重排后的 Q8_0 MoE 权重

b11677: sycl: support reordered Q8_0 MoE weights (#29337)

AI 导读

llama.cpp 发布 b11677 版本,为 SYCL 后端加入对重排后 Q8_0 MoE 权重的支持,同时保留现有的 MoE 累加顺序。该提交由 Codex 与 Angel 协助完成。

来源:llama.cpp Releases · github.com