llama.cpp b11933 修复 Vulkan MUL_MAT 维度3广播
热点事件持续更新
llama.cpp b11933 修复 Vulkan MUL_MAT 维度3广播
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11933,Vulkan 后端现在允许 MUL_MAT 在 src0 与 src1 的 ne3 不一致时进行维度 3 广播。此前 supports_op 会拒绝所有 ne3 不一致的 MUL_MAT,导致这类矩阵乘法回退到 CPU 执行;而 mul_mm、mul_mmq 和 mul_mat_vec 本身已通过 broadcast3 支持对 src0 的维度 3 广播。 该版本只对 MUL_MAT_ID 保留严格检查,并让需要广播的情况避开唯一要求 ne3 相等的 mul_mat_vec_nc 路径。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 20:39
llama.cpp b11933 发布:Vulkan 后端修复 MUL_MAT 维度 3 广播问题报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- llama.cpp Releasesllama.cpp b11933 发布:Vulkan 后端修复 MUL_MAT 维度 3 广播问题
llama.cpp 发布 b11933,Vulkan 后端允许 MUL_MAT 在 src0 与 src1 的 ne3 不一致时进行维度 3 广播,此前这类矩阵乘法会被 supports_op 拒绝并回退到 CPU 执行。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。