llama.cpp 发布 b11599 修复后端缓冲区映射
热点事件持续更新
llama.cpp 发布 b11599 修复后端缓冲区映射
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11599,不再把外部范围映射进后端缓冲区,并启用 macOS 预取。此前由主机指针创建的缓冲区会固定其包裹的全部数据,在多个上下文共享同一文件时,会把其他上下文拥有的数据一并固定进 GPU 缓冲区;按该版本说明,Qwen3.8-Flash-Next IQ4_NL 曾因此固定 27 GiB 惰性张量。 新版本改为按各上下文实际文件范围分别创建缓冲区,避免固定不属于该上下文的数据。
AI 根据报道生成 · 2 小时前更新
最新进展10月13日 22:28
llama.cpp b11599:不再将外部范围映射进后端缓冲区,并启用 macOS 预取报道时间线
沿着报道,了解事件的不同侧面。
10月13日
- llama.cpp Releasesllama.cpp b11599:不再将外部范围映射进后端缓冲区,并启用 macOS 预取
llama.cpp 发布 b11599,修复共享同一文件的多上下文场景下缓冲区过度固定问题:改为按各上下文实际文件范围分别创建缓冲区,避免把其他上下文拥有的数据一并固定进 GPU 缓冲区(Qwen3.8-Flash-Next IQ4_NL 此前会因此固定 27 GiB 惰性张量)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。