llama.cpp b11636 为 SYCL 后端优化 IQ3 权重
热点事件持续更新
llama.cpp b11636 为 SYCL 后端优化 IQ3 权重
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
llama.cpp 构建 b11636 为 SYCL 后端加入 IQ3_S/IQ3_XXS 持久化权重重排：权重在加载时重排一次，重排后的 MMVQ 点积改用 dp4a 与 SWAR 符号扩展遍历稠密 super-block，不再从交错的标准布局中逐位收集。该重排感知反量化同时用于批量 prefill GEMM。 据发布说明，Qwen3.5-9B 的 Q4_K_M / Q3_K_M 表现变化在噪声范围内（最大差异 -0.5 个百分点，tg 持平），因此标准量化不受影响。 MMVQ GLU 融合加宽与 rms_norm+scale 融合被明确排除在本次改动之外，master 已通过 #28931 包含它们。
AI 根据报道生成 · 44 分钟前更新
最新进展10月15日 00:41
llama.cpp b11636 为 SYCL 后端加入 IQ3 权重重排优化报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- llama.cpp Releasesllama.cpp b11636 为 SYCL 后端加入 IQ3 权重重排优化
llama.cpp 构建 b11636 为 SYCL 后端加入 IQ3_S/IQ3_XXS 持久化权重重排，权重在加载时重排一次，MMVQ 点积改用 dp4a 与 SWAR 符号扩展遍历稠密 super-block，重排感知反量化同时惠及批量 prefill GEMM。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。