跳到正文
热点事件持续更新

llama.cpp b11368 为投机解码加入概率采样

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026-10-03,llama.cpp 发布 b11368 版本,为简单 draft 与 MTP 引入概率采样。据该一手发布信息,drafter 改为概率采样,target 端用拒绝采样验证,并新增开关启用概率 draft 采样,默认仍为贪心。该版本同时支持语法约束请求的拒绝采样,并修复 draft sampler 与 target 共用 rng 流、重放时重新接受 draft token 等问题。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月3日
  1. llama.cpp Releases
    llama.cpp b11368 为简单 draft 与 MTP 引入概率采样

    llama.cpp 发布 b11368,为简单 draft 与 MTP 引入概率采样:drafter 改为概率采样,target 端用拒绝采样验证,并新增开关启用概率 draft 采样,默认仍为贪心。该版本同时支持语法约束请求的拒绝采样,并修复 draft sampler 与 target 共用 rng 流、重放时重新接受 draft token 等问题。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。