llama.cpp 修复无空闲显存时层分配崩溃
热点事件持续更新
llama.cpp 修复无空闲显存时层分配崩溃
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11626 版本，修复了所有设备上报空闲显存为零时模型加载崩溃的问题。此前，当每个设备的空闲显存都为零，层切分点会因零和归一化产生 NaN，导致层被分配到越界设备索引，加载以 vector::_M_range_check 报错中止。 新版本在无设备报告空闲显存时改为均匀切分模型层。
AI 根据报道生成 · 2 小时前更新
最新进展10月14日 14:30
llama.cpp b11626 修复设备空闲显存为零时的层分配崩溃报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- llama.cpp Releasesllama.cpp b11626 修复设备空闲显存为零时的层分配崩溃
llama.cpp 发布 b11626 版本，修复了当所有设备上报空闲显存为零时，层切分点因零和归一化产生 NaN、导致层被分配到越界设备索引并以 vector::_M_range_check 报错中止加载的问题。该版本在无设备报告空闲显存时改为均匀切分模型层。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。