跳到正文
热点事件持续更新

llama.cpp b11819 支持 Nemotron 非标准 GQA

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11819 版本,为 Nemotron 模型增加对非标准 GQA、BPE 分词器以及 domyn-small pre-type 的支持。 该版本同时让 gguf-py 将 Metaspace 的 prepend_scheme 写入 GGUF 元数据,分词器会解析该字段并用于 detokenize。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. llama.cpp Releases
    llama.cpp b11819 发布:支持 Nemotron 非标准 GQA 与 BPE 分词器

    llama.cpp b11819 为 Nemotron 增加非标准 GQA、BPE 分词器和 domyn-small pre-type 支持。该版本同时让 gguf-py 将 Metaspace prepend_scheme 写入 GGUF 元数据,并在分词器中解析该字段、用于 detokenize。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。