llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分15
llama.cpp b11573 发布:Vulkan 后端为 f16 累加打包 FMA,移除 dot product 算子
b11573
AI 导读
llama.cpp 发布 b11573,其 Vulkan 后端为 f16 累加打包 FMA,并移除 dot product 算子。该版本将 dot_product 改为每两个 f16 FMA 打包一行,并重命名为 dot_product_v2。
来源:llama.cpp Releases · github.com