跳到正文
llama.cpp Releases· ORippler·· 10 小时前AI 评分28

llama.cpp b12000 加入 OCP FP8 E4M3 支持

b12000: Quant: OCP FP8 E4M3 support (#27512)

AI 导读

llama.cpp 发布 b12000 版本,新增 OCP FP8 E4M3 支持,并修复了 FP8 转换中误落入 NVFP4 路径的问题。该版本为 FP8_E4M3 增加专用编解码测试和 CPU 快速 kernel,同时暂时禁止 FP8 的 QKV 融合,并修复了 Qwen3-Next 融合 qkvz 与 FP8 的转换。

来源:llama.cpp Releases · github.com