跳到正文
热点事件持续更新

llama.cpp b11968 加入 SVE 256 位 q6_K GEMM 内核

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11968,在 ggml-cpu 中为 gemm_q6_K_8x8_q8_K 内核加入 SVE 256 位实现。 该 q6_k GEMM 改动按评审意见清理:移除 pg16_8,将 switch 改为 if,并把 q8_k_blocklen 标记为 UNUSED,以消除非 i8mm 场景的警告。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. llama.cpp Releases
    llama.cpp b11968 发布:为 gemm_q6_K_8x8_q8_K 内核加入 SVE 256 bit 实现

    llama.cpp 发布 b11968,为 gemm_q6_K_8x8_q8_K 内核加入 SVE 256 bit 实现。该 q6_k GEMM 改动按评审意见清理,移除了 pg16_8,将 switch 改为 if,并把 q8_k_blocklen 标记为 UNUSED 以消除非 i8mm 场景的警告。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。