llama.cpp b11647 优化 AMD Vulkan KV 拷贝
热点事件持续更新
llama.cpp b11647 优化 AMD Vulkan KV 拷贝
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11647 版本,其 Vulkan 后端在 AMD 上对 strided f16 KV 只做一次拷贝,使读取分散到多个内存通道。该改动复用通用 copy shader 完成 f16 KV scratch 填充,并扩展到 bf16,同时合并 copy shader、在 RDNA4 上禁用。
AI 根据报道生成 · 5 小时前更新
最新进展10月15日 15:09
llama.cpp b11647 发布:Vulkan 后端在 AMD 上优化 f16 KV 拷贝报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- llama.cpp Releasesllama.cpp b11647 发布:Vulkan 后端在 AMD 上优化 f16 KV 拷贝
llama.cpp 发布 b11647,Vulkan 后端在 AMD 上对 strided f16 KV 只做一次拷贝,使读取分散到多个内存通道。该改动复用通用 copy shader 完成 f16 KV scratch 填充,并扩展到 bf16,同时合并 copy shader、在 RDNA4 上禁用。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 810月15日 21:00
- 近 24 小时变化
- –
02.557.510
21:0022:0023:0010月16日01:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。