跳到正文
热点事件持续更新

llama.cpp b11647 优化 AMD Vulkan KV 拷贝

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11647 版本,其 Vulkan 后端在 AMD 上对 strided f16 KV 只做一次拷贝,使读取分散到多个内存通道。该改动复用通用 copy shader 完成 f16 KV scratch 填充,并扩展到 bf16,同时合并 copy shader、在 RDNA4 上禁用。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. llama.cpp Releases
    llama.cpp b11647 发布:Vulkan 后端在 AMD 上优化 f16 KV 拷贝

    llama.cpp 发布 b11647,Vulkan 后端在 AMD 上对 strided f16 KV 只做一次拷贝,使读取分散到多个内存通道。该改动复用通用 copy shader 完成 f16 KV scratch 填充,并扩展到 bf16,同时合并 copy shader、在 RDNA4 上禁用。

本事件热度走势

可比范围当前
8
可比范围峰值
810月15日 21:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。