跳到正文
原文
llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分17

llama.cpp b11333 为 WebGPU 后端新增 bfloat16 支持

b11333

AI 导读

llama.cpp 发布 b11333,为 WebGPU 后端的 MUL_MAT、MUL_MAT_ID 和 GET_ROWS 算子新增 bfloat16 支持。该改动对应 PR #29358,可让 WebGPU 路径在相关矩阵运算中直接处理 bf16 数据。

来源:llama.cpp Releases · github.com