跳到正文
热点事件持续更新

llama.cpp b11934 优化测试提速

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

ggerganov 发布 llama.cpp b11934,重构测试代码以加速张量数据生成与模型保存。 保存模型时不再创建并不需要的 llama_context;张量数据改用 splitmix64 与 box-muller 替代 std::normal_distribution 抽样,并以 std::mt19937 预生成正态抽样池,各张量按名称键循环取切片,保持抽样确定性。每次保存后输出文件大小(字节与 MB)。

AI 根据报道生成 · 37 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. llama.cpp Releases
    llama.cpp b11934 发布:加速测试中的张量数据生成与模型保存

    llama.cpp b11934 重构测试代码,save_models 不再创建保存时并不需要的 llama_context,并用 splitmix64 + box-muller 替代缓慢的 std::normal_distribution 抽样。张量数据改为用 std::mt19937 预生成正态抽样池,各张量按名称键循环取切片,保持抽样确定性。每次保存模型后还会输出文件大小(字节与 MB)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。