跳到正文
原文
vLLM Releases· AndreasKaratzas·AI 评分12

vLLM v0.30.1rc0 为 ROCm 添加 MI355 稠密 NVFP4 与 MoRI kernel 镜像

v0.30.1rc0: [ROCm][CI] Add MI355 dense NVFP4 and MoRI kernel mirrors (#58281)

这条更新与你有关吗?

这条是模型推理工具的技术更新,不是普通 AI 使用者必须学习的新知识。

vLLM 是在服务器上运行并提供大模型服务的推理引擎。

适合谁看:模型服务部署者、推理引擎开发者;普通 AI 使用者不必掌握内部实现。

如果只用在线 AI 产品或调用托管 API,通常不必研究这些内部术语;自己部署模型时,再核对相关版本和原文。

阅读提示:按来源与标题归类,不替代原文核验或具体升级建议。

技术摘要 · 保留来源细节

vLLM 发布 v0.30.1rc0,在 ROCm 平台新增 MI355 稠密 NVFP4 与 MoRI kernel 镜像。该提交由 Andreas Karatzas 签署,OpenAI Codex 参与共同创作。

来源:vLLM Releases · github.com