跳到正文
原文
Exa Semantic Discovery· Victoria Gayton·AI 评分22

Nvidia 将 AI 工厂经济性系于推理与能效

Nvidia links AI factory economics to inference and efficiency- SiliconANGLE

AI 导读

Nvidia 超大规模与 HPC 业务负责人 Ian Buck 表示,AI 工厂的商业产出正从芯片转向推理,其经济性核心指标是每瓦 token 数。他称每代 GPU 的 tokens per watt 提升可达 10 倍以上,Blackwell 最终实现 30 倍提升。

来源:Exa Semantic Discovery · siliconangle.com