llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分20
llama.cpp b11680 发布:Hexagon 张量重打包重构,支持分块与扁平量化及 FP 权重
b11680
AI 导读
llama.cpp 发布 b11680,重构 Hexagon 张量重打包并支持分块与扁平的量化及 F16/F32/BF16 权重。新增分块 Q5_K 的 GET_ROWS 支持与原始 k-quant 张量,向量化 raw k-quant ukernels,并清理 flat/tiled 反量化内核。
来源:llama.cpp Releases · github.com