llama.cpp Releases· github-actions[bot]·· 12 小时前AI 评分12
llama.cpp b11645 为 Metal 张量 API flash attention 内核新增 BF16 变体
b11645
AI 导读
llama.cpp 发布 b11645,为 Metal 张量 API 的 flash attention 内核新增 BF16 变体,并将张量 FA 内核迁移至 kernels/fa_tensor.metal。
来源:llama.cpp Releases · github.com