llama.cpp Releases· github-actions[bot]·· 7 小时前AI 评分20
llama.cpp b11861 修复 minimax-m3 量化缩放未传入计算图的问题
b11861
AI 导读
llama.cpp b11861 修复了 minimax-m3 未将 NVFP4 与 MXFP8 缩放张量传入计算图的问题,此前路由专家权重被放大 global_scale 倍,导致 M3.1 Flash 出现 G 约 15123 的异常并输出乱码。修复在三个调用点转发全部缩放张量,与 flint 等支持 NVFP4 的 MoE 模型做法一致。
来源:llama.cpp Releases · github.com