llama.cpp 将 concat 重写为全类型单行 kernel
热点事件持续更新
llama.cpp 将 concat 重写为全类型单行 kernel
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11906，将 ggml-cpu 的 concat 重写为覆盖所有类型的单行 kernel。稠密源行一次 memcpy，量化类型同样适用；跨步源按编译期已知元素大小逐元素拷贝。 新实现按线程切分行，不再只按 i2 切分，并以 32 为块拷贝；转置源按外层循环遍历元素，以减少跨行跳转。test_concat 新增转置 b 用例（delta-net conv 输入布局）及对应性能用例。
AI 根据报道生成 · 37 分钟前更新
最新进展10月26日 22:18
llama.cpp b11906 将 concat 重写为全类型单行 kernel报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- llama.cpp Releasesllama.cpp b11906 将 concat 重写为全类型单行 kernel
llama.cpp 发布 b11906，将 ggml-cpu 的 concat 重写为覆盖所有类型的单行 kernel：稠密源行一次 memcpy，量化类型同样适用，跨步源按编译期已知元素大小逐元素拷贝。行按线程切分而非仅按 i2，并以 32 为块拷贝，转置源按外层循环遍历元素以减少跨行跳转。test_concat 新增转置 b 用例（delta-net conv 输入布局）及对应性能用例。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。