跳到正文
llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分15

llama.cpp b11573 发布:Vulkan 后端为 f16 累加打包 FMA,移除 dot product 算子

b11573

AI 导读

llama.cpp 发布 b11573,其 Vulkan 后端为 f16 累加打包 FMA,并移除 dot product 算子。该版本将 dot_product 改为每两个 f16 FMA 打包一行,并重命名为 dot_product_v2。

来源:llama.cpp Releases · github.com