llama.cpp b11819 支持 Nemotron 非标准 GQA
热点事件持续更新
llama.cpp b11819 支持 Nemotron 非标准 GQA
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11819 版本,为 Nemotron 模型增加对非标准 GQA、BPE 分词器以及 domyn-small pre-type 的支持。 该版本同时让 gguf-py 将 Metaspace 的 prepend_scheme 写入 GGUF 元数据,分词器会解析该字段并用于 detokenize。
AI 根据报道生成 · 1 小时前更新
最新进展10月22日 19:34
llama.cpp b11819 发布:支持 Nemotron 非标准 GQA 与 BPE 分词器报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- llama.cpp Releasesllama.cpp b11819 发布:支持 Nemotron 非标准 GQA 与 BPE 分词器
llama.cpp b11819 为 Nemotron 增加非标准 GQA、BPE 分词器和 domyn-small pre-type 支持。该版本同时让 gguf-py 将 Metaspace prepend_scheme 写入 GGUF 元数据,并在分词器中解析该字段、用于 detokenize。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。