热点事件持续更新
浪潮信息与Inferact围绕Kimi K3优化推理
1 篇报道1 个报道来源22 小时前更新
先了解这件事
AI 综述
浪潮信息此前发布超节点服务器，称Kimi K3推理时延为5.85毫秒。2026年10月1日，Inferact围绕Kimi K3做算子融合，将92个MoE层写进同一个程序，在16颗谷歌TPU v7上开启投机解码达到709 tokens/s，同规模16块英伟达GB200用vLLM跑为452 tokens/s，从零编译不到90秒，推理提速3倍。
AI 根据报道生成 · 10 小时前更新
最新进展10月1日 11:00
Inferact称围绕Kimi K3做算子融合，推理提速3倍。报道时间线
沿着报道，了解事件的不同侧面。
10月1日
- Tavily News DiscoveryInferact 与浪潮信息围绕 Kimi K3 做算子融合，推理提速 3 倍
Inferact 开源 TPU Megakernels，把 Kimi K3 的 92 个 MoE 层写进同一个程序，在 16 颗谷歌 TPU v7 上开着投机解码达到 709 tokens/s，同规模 16 块英伟达 GB200 用 vLLM 跑是 452 tokens/s，从零编译不到 90 秒。
本事件热度走势
当前热度 5·可比范围峰值 7（10月2日 00:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。