llama.cpp Releases· liangliangchang·· 10 小时前AI 评分15
llama.cpp b11618:RDNA3.5 上部分量化类型启用 64 行 MMQ tile
b11618: HIP: use 64-row MMQ tiles for some quant types on RDNA3.5 (#28195)
AI 导读
llama.cpp 发布 b11618,在 RDNA3.5(gfx115x)上为部分量化类型启用 64 行 / 128 线程的 MMQ tile,以在 gfx1151 上测得加速的 (type, J) 组合为限,其余条目保持不变,J=96 因无收益被排除。
来源:llama.cpp Releases · github.com