热点事件持续更新
llama.cpp 优化 sm70 CUDA MMVQ 参数表
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026-10-02，llama.cpp 发布 b11335，针对 CUDA 后端的 MMVQ（矩阵乘向量量化）参数表做出调整：将 sm_70（Volta 架构）路由到已有的 Turing MMVQ nwarps 参数表，使 K-quant 在 batch-1 解码场景下以 nwarps=2 启动。此前该架构使用哪套 nwarps 参数表、以及此次改动带来的具体性能变化，报道中未予说明。目前进展为 b11335 版本已包含该路由改动。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月2日
- llama.cpp Releasesllama.cpp b11335：CUDA 将 sm_70 路由至 Turing MMVQ nwarps 表
llama.cpp 发布 b11335，CUDA 后端将 sm_70（Volta）路由到已有的 Turing MMVQ nwarps 参数表，使 K-quant batch-1 解码在 nwarps=2 下启动。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。