vLLM Releases· robertgshaw2-redhat·· 18 小时前AI 评分10
vLLM v0.31.0rc3 发布：Model Runner V2 支持随机化 dummy inputs
v0.31.0rc3: [Model Runner V2] Support randomized dummy inputs (#58411)
AI 导读
vLLM 发布 v0.31.0rc3，为 Model Runner V2 加入随机化 dummy inputs 支持（#58411）。该改动由 Robert Shaw 提交，Nick Hill 参与，并已 cherry-pick 至该版本。
来源：vLLM Releases · github.com