llama.cpp Releases· ngxson·· 8 小时前AI 评分12
llama.cpp b11857:ggml 允许 MUL_MAT_ID 用 -1 索引跳过计算
b11857: ggml : allow MUL_MAT_ID -1 index to skip the computation (#26631)
AI 导读
llama.cpp 发布 b11857,ggml 支持 MUL_MAT_ID 传入 -1 索引以跳过对应计算(#26631)。该改动同步更新 Vulkan 代码,并修复 ggml-webgpu 中 mul_mat_id_vec 的 workgroup 屏障问题,CUDA 与 OpenVINO 被排除在本 PR 之外。
来源:llama.cpp Releases · github.com