跳到正文
llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分15

llama.cpp b11572 发布:支持 vLLM d3 模型

b11572

AI 导读

llama.cpp 发布 b11572 版本,新增对 vLLM d3 模型的支持,并支持 pplx-decider vllm d2。该版本同时更新了模型命名规则,加入更严格的校验。构建产物覆盖 macOS、Linux、Windows、Android 及 openEuler 等多平台,含 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 等后端。

来源:llama.cpp Releases · github.com