llama.cpp b11923 放宽 ggml SCALE 非连续视图限制
热点事件持续更新
llama.cpp b11923 放宽 ggml SCALE 非连续视图限制
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11923,将 ggml 的 SCALE 算子对输入的要求从 src0 必须一维连续,放宽为只需 dim-0 连续、行步幅可任意(ggml_is_contiguous_rows),与 Metal 后端一元算子的处理一致。 这一放宽并非在所有后端都生效:SYCL 后端仍要求连续,因为其 kernel 是扁平的 f32;CUDA 后端在非连续视图下跳过 softcap 融合。
AI 根据报道生成 · 46 分钟前更新
最新进展10月27日 13:55
llama.cpp b11923 发布:ggml 放宽 SCALE 对非连续视图的限制报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- llama.cpp Releasesllama.cpp b11923 发布:ggml 放宽 SCALE 对非连续视图的限制
llama.cpp 发布 b11923,ggml 的 SCALE 算子从要求 src0 一维连续放宽为仅需 dim-0 连续、行步幅可任意,与 Metal 后端一元算子一致。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。