跳到正文
llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分8

llama.cpp b11934 发布:加速测试中的张量数据生成与模型保存

b11934

AI 导读

llama.cpp b11934 重构测试代码,save_models 不再创建保存时并不需要的 llama_context,并用 splitmix64 + box-muller 替代缓慢的 std::normal_distribution 抽样。张量数据改为用 std::mt19937 预生成正态抽样池,各张量按名称键循环取切片,保持抽样确定性。每次保存模型后还会输出文件大小(字节与 MB)。

来源:llama.cpp Releases · github.com