llama.cpp 新增实时对话与转写端点
热点事件持续更新
llama.cpp 新增实时对话与转写端点
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11946,server 在 /v1/realtime 端点新增实时对话与转写能力,实时客户端默认连接服务器端口 9931。 该版本同时修复并发会话输出串扰问题:此前采样在下一步开始时读取最后解码 slot 的 logits,导致多会话输出混合;现在实时响应在各自解码后立即采样。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 08:26
llama.cpp b11946 发布:server 新增 /v1/realtime 实时对话与转写报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- llama.cpp Releasesllama.cpp b11946 发布:server 新增 /v1/realtime 实时对话与转写
llama.cpp 发布 b11946,server 在 /v1/realtime 端点新增实时对话与转写能力,实时客户端默认连接服务器端口 9931。该版本还修复了并发会话输出串扰问题:此前采样在下一步开始时读取最后解码 slot 的 logits,导致多会话输出混合,现在实时响应在各自解码后立即采样。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。