Exa Semantic Discovery· Victoria Gayton·AI 评分22
Nvidia 将 AI 工厂经济性系于推理与能效
Nvidia links AI factory economics to inference and efficiency- SiliconANGLE
AI 导读
Nvidia 超大规模与 HPC 业务负责人 Ian Buck 表示,AI 工厂的商业产出正从芯片转向推理,其经济性核心指标是每瓦 token 数。他称每代 GPU 的 tokens per watt 提升可达 10 倍以上,Blackwell 最终实现 30 倍提升。
来源:Exa Semantic Discovery · siliconangle.com