跳到正文
热点事件持续更新

llama.cpp 发布 b11599 修复后端缓冲区映射

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11599,不再把外部范围映射进后端缓冲区,并启用 macOS 预取。此前由主机指针创建的缓冲区会固定其包裹的全部数据,在多个上下文共享同一文件时,会把其他上下文拥有的数据一并固定进 GPU 缓冲区;按该版本说明,Qwen3.8-Flash-Next IQ4_NL 曾因此固定 27 GiB 惰性张量。 新版本改为按各上下文实际文件范围分别创建缓冲区,避免固定不属于该上下文的数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. llama.cpp Releases
    llama.cpp b11599:不再将外部范围映射进后端缓冲区,并启用 macOS 预取

    llama.cpp 发布 b11599,修复共享同一文件的多上下文场景下缓冲区过度固定问题:改为按各上下文实际文件范围分别创建缓冲区,避免把其他上下文拥有的数据一并固定进 GPU 缓冲区(Qwen3.8-Flash-Next IQ4_NL 此前会因此固定 27 GiB 惰性张量)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。