Qwen Blog·· 2022-11-14精选AI 评分62
OFA:构建 One-For-All 统一多模态预训练模型
OFA: Towards Building a One-For-All Model
AI 导读
Qwen 团队提出 OFA(One-For-All),一个统一理解与生成任务的统一多模态预训练模型,采用基于指令的多任务预训练,并开源了预训练和微调模型。OFA 统一了模态、架构和任务,用 VQ token 表示图像、用 bins 离散化边界框,预训练涵盖 8 个任务,包括视觉定位、图像描述、VQA、图文匹配、检测、图像补全和文本补全。
推荐理由
原文给出 OFA 的统一框架设计与 5 个尺寸的开源模型,读者可据此了解多模态统一模型的早期技术路线。
来源:Qwen Blog · qwenlm.github.io