llama.cpp b11934 优化测试提速
热点事件持续更新
llama.cpp b11934 优化测试提速
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
ggerganov 发布 llama.cpp b11934,重构测试代码以加速张量数据生成与模型保存。 保存模型时不再创建并不需要的 llama_context;张量数据改用 splitmix64 与 box-muller 替代 std::normal_distribution 抽样,并以 std::mt19937 预生成正态抽样池,各张量按名称键循环取切片,保持抽样确定性。每次保存后输出文件大小(字节与 MB)。
AI 根据报道生成 · 37 分钟前更新
最新进展10月27日 20:44
llama.cpp b11934 发布:加速测试中的张量数据生成与模型保存报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- llama.cpp Releasesllama.cpp b11934 发布:加速测试中的张量数据生成与模型保存
llama.cpp b11934 重构测试代码,save_models 不再创建保存时并不需要的 llama_context,并用 splitmix64 + box-muller 替代缓慢的 std::normal_distribution 抽样。张量数据改为用 std::mt19937 预生成正态抽样池,各张量按名称键循环取切片,保持抽样确定性。每次保存模型后还会输出文件大小(字节与 MB)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。