llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分15
llama.cpp b11997 发布:复用张量暂存缓冲区并跳过 direct-io bounce buffer
b11997
AI 导读
llama.cpp 发布 b11997 版本,复用张量暂存缓冲区并跳过 direct-io bounce buffer(#31321)。该版本同步提供 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台构建产物,覆盖 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。
来源:llama.cpp Releases · github.com