llama.cpp Releases· github-actions[bot]·· 6 小时前AI 评分18
llama.cpp b11905 发布:Vulkan 后端用 subgroup reductions 优化 RMS Norm
b11905
AI 导读
llama.cpp 发布 b11905,在 Vulkan 后端利用 subgroup reductions 优化 RMS Norm,并新增 AMD Vendor 支持。该改动统一了 BLOCK_SIZE 用法,为非 subgroup 路径补充 128/256/512 块大小,并加入快速路径跳过第二个 subgroup 的 Add 操作。
来源:llama.cpp Releases · github.com