跳到正文
llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分28

llama.cpp b11714 发布:UI 支持从 HuggingFace Hub 发现并下载模型

b11714

AI 导读

llama.cpp b11714 为 UI 加入 Discover Models 功能,可直接浏览和下载 HuggingFace 上的 GGUF 模型,该功能默认关闭。下载支持暂停与断点续传,重启后仍能识别未完成的下载并从磁盘已有文件恢复;主模型下载时会自动拉取匹配的 draft 模型以支持投机解码。

来源:llama.cpp Releases · github.com