llama.cpp Releases· github-actions[bot]·AI 评分12
llama.cpp b11344 修复 2 个 Volta 架构 FA 问题
b11344
AI 导读
llama.cpp 发布 b11344 版本,修复了 CUDA 后端下 2 个损坏的 Volta 架构 FA(Flash Attention)用例。该版本同步更新了 macOS、Linux、Windows、Android 等多平台构建产物,涵盖 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。
来源:llama.cpp Releases · github.com