跳到正文
Exa Semantic Discovery· Ai学习的老章·· 1 天前AI 评分62

Prime Intellect 开源生产级推理平台 Prime Inference,GLM-5.3 在 GB200 上跑出 100 tok/s

开源大模型推理卷上新高度,GLM-5.3 在英伟达 GB200 上飙出 100 tok/s | 人人都是产品经理

AI 导读

Prime Intellect 上线生产级推理平台 Prime Inference,并将底层核心架构与算子全栈开源,首个公开端点是在英伟达 GB200 NVL72 上运行的 GLM-5.3,每用户输出速度达每秒 100 Token。

来源:Exa Semantic Discovery · woshipm.com