llama.cpp b11632 为 CUDA/HIP 加入 GDN 分块内核
热点事件持续更新
llama.cpp b11632 为 CUDA/HIP 加入 GDN 分块内核
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
llama.cpp 发布构建 b11632，为 CUDA 和 HIP 后端加入 GDN chunked kernel，代码移植自 tetherto#257（源提交 53f0027）。 CUDA 端在 RTX 3090（SM86）和 RTX 4090（SM89）上通过正确性与 prefill 基准测试后启用 GDN MMA，其余未测试架构保留原有回退路径。ggml 方面称，GDN 仅在 n_tokens > K 时保证最终状态。
AI 根据报道生成 · 2 小时前更新
最新进展10月14日 22:00
llama.cpp b11632 发布：CUDA 与 HIP 新增 GDN chunked kernel报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- llama.cpp Releasesllama.cpp b11632 发布：CUDA 与 HIP 新增 GDN chunked kernel
llama.cpp 构建 b11632 为 CUDA 和 HIP 后端加入 GDN chunked kernel，代码移植自 tetherto#257（源提交 53f0027）。CUDA 端在 RTX 3090（SM86）和 RTX 4090（SM89）上启用 GDN MMA，其余未测试架构保留原有回退路径。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。