llama.cpp SYCL 后端优化短 TOP_K 行 argmax
热点事件持续更新
llama.cpp SYCL 后端优化短 TOP_K 行 argmax
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11963，SYCL 后端为短 TOP_K 行实现 work-group argmax（#31110）。当行的 ncols 不超过最大 work-group 大小时，每列由一个 work-item 负责，进行 k 轮 work-group argmax；更长的行仍走原有路径。 该改动并非在所有情况下都更快：1024 x 8192、k=2 的用例慢了 3.7%。完整 test-backend-ops 在 base 与补丁上都会在非 F32 SWIGLU_OAI 断言处中止（element_wise.cpp:1187，见 #30857）。
AI 根据报道生成 · 17 分钟前更新
最新进展10月28日 22:18
llama.cpp b11963 发布：SYCL 后端为短 TOP_K 行实现 work-group argmax报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- llama.cpp Releasesllama.cpp b11963 发布：SYCL 后端为短 TOP_K 行实现 work-group argmax
llama.cpp 发布 b11963，SYCL 后端为短 TOP_K 行实现 work-group argmax（#31110），用于优化 SYCL 协调。改动由 Claude Opus 5.5 按建议协助完成，ncols 为 [256,2,3,4] 的行曾在补丁上出现一次失败，base 与补丁各 3/3 重跑均通过。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。