跳到正文
热点事件持续更新

llama.cpp 新增实时对话与转写端点

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11946,server 在 /v1/realtime 端点新增实时对话与转写能力,实时客户端默认连接服务器端口 9931。 该版本同时修复并发会话输出串扰问题:此前采样在下一步开始时读取最后解码 slot 的 logits,导致多会话输出混合;现在实时响应在各自解码后立即采样。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. llama.cpp Releases
    llama.cpp b11946 发布:server 新增 /v1/realtime 实时对话与转写

    llama.cpp 发布 b11946,server 在 /v1/realtime 端点新增实时对话与转写能力,实时客户端默认连接服务器端口 9931。该版本还修复了并发会话输出串扰问题:此前采样在下一步开始时读取最后解码 slot 的 logits,导致多会话输出混合,现在实时响应在各自解码后立即采样。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。