跳到正文
llama.cpp Releases· github-actions[bot]·· 1 天前AI 评分12

llama.cpp b11846 发布:ggm-cuda 强制 DP4A MMQ tile 高度为 warp size 的倍数

b11846

AI 导读

llama.cpp 发布 b11846 版本,ggm-cuda 后端新增静态断言,强制 DP4A MMQ 的 tile 高度必须是 warp size 的整数倍。该版本同步更新 macOS、Linux、Windows、Android 及 openEuler 等多平台构建产物,覆盖 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。

来源:llama.cpp Releases · github.com