llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22
llama.cpp b11976 发布:Hexagon NPU 的 IM2COL 实现基于块的 HVX 并行化
b11976
AI 导读
llama.cpp 发布 b11976,为 Hexagon NPU 的 IM2COL 引入基于块的 HVX 并行化,并支持多线程按输出列分块计算。该版本同时修复了 hex-im2col 的 padding 处理问题,并对常见情形做循环展开。
来源:llama.cpp Releases · github.com