跳到正文
热点事件持续更新

llama.cpp b11979 向量化 SYCL 反量化存储

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11979 版本,为 SYCL 后端的重排布局反量化内核引入向量化存储。该优化覆盖 Q4_0、Q4_K、Q5_K、Q6_K、Q3_K、Q2_K、IQ3 与 MXFP4 等量化格式。 这是针对 SYCL 后端重排布局反量化存储路径的改动,目的是提升这些量化格式在反量化写出环节的效率。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. llama.cpp Releases
    llama.cpp b11979 为 SYCL 后端向量化多种量化格式的反量化存储

    llama.cpp b11979 为 SYCL 后端的重排布局反量化内核引入向量化存储,覆盖 Q4_0、Q4_K、Q5_K、Q6_K、Q3_K、Q2_K、IQ3 与 MXFP4。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。