llama.cpp 新增 maion-coder 支持并发布 v0.7.0
先了解这件事
llama.cpp 发布 b11658 版本，新增对 maion-coder 架构和 Draft 模型的支持，同时移除了 maion 的 context shift 函数。该版本构建覆盖 macOS、Linux、Windows、Android 及 openEuler 等平台，包含 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 等后端。 次日发布的 v0.7.0 新增面向主机内存 MoE 专家的 GPU 缓存（--moe-cache-mib），专家卸载时解码最高约 2.2 倍加速，并支持多 GPU 共享该缓存；同时加入 LiliCorr 投机解码技术和 GLM5-Next 的 MTP 支持。该版本将服务器默认监听端口从 8080 改为 9931（Docker 镜像容器内仍保留 8080），嵌入模型在启用池化时跳过 logits 缓冲区和 LM head，可减少最多约 10 倍显存占用。
AI 根据报道生成 · 1 分钟前更新
事件进展
2 个进展
- 10月16日 01:13 · 1 篇报道llama.cpp 发布 v0.7.0llama.cpp Releases：llama.cpp v0.7.0 发布：新增 MoE 专家 GPU 缓存与 LiliCorr 投机解码
- 10月15日 17:18 · 1 篇报道llama.cpp 新增 maion-coder 架构支持llama.cpp Releases：llama.cpp b11658 新增 maion-coder 架构支持
报道时间线
沿着报道，了解事件的不同侧面。
- llama.cpp Releasesllama.cpp v0.7.0 发布：新增 MoE 专家 GPU 缓存与 LiliCorr 投机解码
llama.cpp v0.7.0 发布，新增面向主机内存 MoE 专家的 GPU 缓存（--moe-cache-mib），专家卸载时解码最高约 2.2 倍加速，并支持多 GPU 共享该缓存。
- llama.cpp Releasesllama.cpp b11658 新增 maion-coder 架构支持
llama.cpp 发布 b11658 版本，新增对 maion-coder 架构的支持，并加入 Draft 模型支持。该版本还移除了 maion 的 context shift 函数，构建覆盖 macOS、Linux、Windows、Android 及 openEuler 等多平台，包含 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 等后端。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 910月15日 22:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。