llama.cpp 修复 server 忙槽位被请求占用问题

1. 03:25
   llama.cpp Releases

   llama.cpp b11552 修复 server 占用中 slot 被请求固定时的缓存更新问题

   llama.cpp 发布 b11552，修复 server 中请求指定繁忙 id_slot 时仍会先执行 prompt cache 更新的问题。此前若 RAM 缓存存在更优匹配，会在该 slot 仍在生成时被加载，导致生成继续在错误上下文上进行；现在繁忙 slot 会原样返回，请求需等待该 slot。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。