跳到正文
llama.cpp Releases· github-actions[bot]·· 6 小时前AI 评分18

llama.cpp b11905 发布:Vulkan 后端用 subgroup reductions 优化 RMS Norm

b11905

AI 导读

llama.cpp 发布 b11905,在 Vulkan 后端利用 subgroup reductions 优化 RMS Norm,并新增 AMD Vendor 支持。该改动统一了 BLOCK_SIZE 用法,为非 subgroup 路径补充 128/256/512 块大小,并加入快速路径跳过第二个 subgroup 的 Add 操作。

来源:llama.cpp Releases · github.com