llama.cpp Releases· IMbackK·· 6 小时前AI 评分10
llama.cpp b11545 修复 CUDA/HIP flash_attn 竞态问题
b11545
AI 导读
llama.cpp 发布 b11545 版本,修复了 CUDA/HIP 后端在 flash_attn_ext_f16_process_tile 中当 nbatch_com… 时出现的竞态问题。该提交已在 GitHub 上通过签名验证,具体改动细节因标题截断未完整显示。
来源:llama.cpp Releases · github.com