跳到正文
llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分20

llama.cpp b11680 发布:Hexagon 张量重打包重构,支持分块与扁平量化及 FP 权重

b11680

AI 导读

llama.cpp 发布 b11680,重构 Hexagon 张量重打包并支持分块与扁平的量化及 F16/F32/BF16 权重。新增分块 Q5_K 的 GET_ROWS 支持与原始 k-quant 张量,向量化 raw k-quant ukernels,并清理 flat/tiled 反量化内核。

来源:llama.cpp Releases · github.com