llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分17
llama.cpp b11333 为 WebGPU 后端新增 bfloat16 支持
b11333
AI 导读
llama.cpp 发布 b11333,为 WebGPU 后端的 MUL_MAT、MUL_MAT_ID 和 GET_ROWS 算子新增 bfloat16 支持。该改动对应 PR #29358,可让 WebGPU 路径在相关矩阵运算中直接处理 bf16 数据。
来源:llama.cpp Releases · github.com