Qwen Blog·· 2025-01-27精选AI 评分71
Qwen 开源 Qwen2.5-1M 模型并发布配套推理框架
Qwen2.5-1M: Deploy Your Own Qwen with Context Length up to 1M Tokens
AI 导读
Qwen 开源 Qwen2.5-7B-Instruct-1M 和 Qwen2.5-14B-Instruct-1M 两个模型,首次将开源 Qwen 模型的上下文长度提升到 1M token。
推荐理由
原文给出两个开源长上下文模型及配套 vLLM 推理框架,读者可据此评估本地部署 1M token 场景的硬件门槛与提速幅度。
来源:Qwen Blog · qwenlm.github.io