llama.cpp 修复 no-cache attention KV 维度填充
热点事件持续更新
llama.cpp 修复 no-cache attention KV 维度填充
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11576，修复 no-cache attention 路径的 KV 维度填充问题。 据发布说明，此前 no-cache 路径构建 [n_tokens, n_tokens] 掩码，但传入的 K、V 未做填充，导致 FLASH_ATTN_EXT 看到的 K->ne[1] 等于 n_tokens。该版本将掩码按 llama_kv_cache::get_n_kv 的方式填充，并把 K、V 用零补齐到掩码的 KV 维度，即补齐至 256。
AI 根据报道生成 · 56 分钟前更新
最新进展10月13日 05:00
llama.cpp b11576 发布：为 no-cache attention 的 KV 维度补齐至 256报道时间线
沿着报道，了解事件的不同侧面。
10月13日
- llama.cpp Releasesllama.cpp b11576 发布：为 no-cache attention 的 KV 维度补齐至 256
llama.cpp 发布 b11576，将 no-cache attention 的 KV 维度补齐至 256。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。