llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分20
llama.cpp b11868 发布:Hexagon NPU 多核 HMX flash attention 支持 KV-head 团队拆分
b11868
AI 导读
llama.cpp b11868 为 Hexagon NPU 多核 HMX flash attention 引入 KV-head 团队拆分,将 FA_HEAD_SPLIT 与 FA_SPLIT 合并为单一 GGML_HEXAGON_FA_SPLIT 标志。
来源:llama.cpp Releases · github.com