跳到正文
llama.cpp Releases· SG-Amadeus·· 6 小时前AI 评分7

llama.cpp b11543:Vulkan 后端为 NVIDIA MUL_MAT_ID MMVQ 改用 4 行

b11543: vulkan: use 4 rows for NVIDIA MUL_MAT_ID MMVQ (#29274)

AI 导读

llama.cpp 发布 b11543 版本,其 Vulkan 后端将 NVIDIA 的 MUL_MAT_ID MMVQ 路径改为使用 4 行,同时保留 RDNA3/4 原有策略不变,仅更新 rm_id,且不适用于 pre-Turing 架构。

来源:llama.cpp Releases · github.com