llama.cpp b11554 优化 Vulkan 后端 mul_mat_id
热点事件持续更新
llama.cpp b11554 优化 Vulkan 后端 mul_mat_id
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11554 版本,Vulkan 后端将 mul_mat_id 的重复处理从循环改为在 prepass 阶段完成,并让“hoist row ids”优化默认启用。 该改动会生成紧凑的 tile 描述列表,必要时输出多个 tile,从而收紧 workgroup 数量上界,让尾部工作可提前退出。
AI 根据报道生成 · 2 小时前更新
最新进展10月11日 20:02
llama.cpp b11554 发布:Vulkan 后端优化 mul_mat_id 重复处理报道时间线
沿着报道,了解事件的不同侧面。
10月11日
- llama.cpp Releasesllama.cpp b11554 发布:Vulkan 后端优化 mul_mat_id 重复处理
llama.cpp 发布 b11554 版本,Vulkan 后端将 mul_mat_id 的重复处理从循环改为在 prepass 阶段完成,并让"hoist row ids"优化默认启用。该改动会生成紧凑的 tile 描述列表,必要时输出多个 tile,从而收紧 workgroup 数量上界,让尾部工作可提前退出。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。