潍坊网站建设滨州网站建设

磐晟创新(北京)科技有限公司 2026/09/09 19:53:02

论文链接:https://arxiv.org/pdf/2512.04810
项目链接:https://emma-umm.github.io/emma/

背景与动机

当前多模态大模型已经成为大模型领域最为重要的研究热点,尤其是随着OpenAI的GPT-4O展现出极强的多模交互生成能力,以及谷歌GEMINI依靠原生多模架构打了一场漂亮的大模型翻身仗,如何构建多模态统一架构已经成为2025年多模态大模型领域最为关心的课题。

尽管构建多模态统一架构已经成为了业界几乎所有大模型研究者的共识,但是如何构建多模态统一架构的路线目前仍然未收敛,比如1)直接利用开源的理解或生成专家模型然后中间设计桥接器来构建多模交互能力,典型代表工作比如UniWorldV1, Metaquery, OminiGen2等 2)架构统一并进行端到端原生训练以激发多模能力,但其理解与生成任务优化目标不同。代表工作如字节的BAGEL,Mogao以及Deepseek的JanusFlow 3) 追求完美统一,优化目标一致,比如EMU系列和D-DiT。但无论哪种路线,围绕大家心中最为关键的一个问题就是,多模态统一架构所训练激发的能力到底能不能超过单独的多模态理解或者多模态生成模型,从而证明多模态统一架构所具备的优势?华为近期发布的高效多模态统一架构EMMA就给出了相关答案,是可以的!

先上结果

我们先来看结果,一句话总结:EMMA以4B MOE规模的大小在多模态理解、生成、编辑等榜单上力压当前各种7B大小的统一架构模型,远超BAGEL

再来看看与单独的专家模型对比。比如在多模态理解常常测评的11个榜单上,EMMA-4B模型要比Qwen3-VL-4B取得更好的结果。

同时,在图像生成GenEval榜单上EMMA也获得了超高的分数。

具体方法和实验细节

我们来看看EMMA到底通过什么方案来取得这么好的效果呢? 核心方案:

  1. 高效压缩,平衡理解与生成Token;采用32x高效压缩的生成编码器,使得与理解分支一致,保证理解与生成的token平衡,这个近期Meta的统一架构工作TUNA也提及到理解与生成token平衡。因此,1K分辨率的图像理解和生成编码器都会编码成1024个视觉token。

  2. Token Channel-wise拼接,降低视觉Token数;理解token 和生成token 直接通道拼接而不是token 数拼接,这样在做信息融合的时候避免token爆炸,有利于多模交互场景;

  3. 采用共享及解耦网络机制;在原生多模知识共享(这点大家可以参考对照生成需要REPA loss)的同时满足任务特异性建模(理解语义建模,生成需要语义和高频信息建模)

  4. 理解编码器siglip2改成专家混合架构mixpert,以应对多样的输入图像类型。

其整体架构图和训练细节如下。 基于上述方案,EMMA在满足高效的同时(例如编辑任务降低5倍视觉token)达到SOTA性能,相较于BAGEL7B有大幅提升。同时相较于Qwen3-VL-4B进行了对比在11个理解榜单取得了相当甚至更优的结果

可视化结果

最后我们再来看一些具体的可视化结果

是不是EMMA的生成能力相当能打?

总结

EMMA通过高效的编码器设计融合策略和网络结构语义共享及高层任务解耦机制,能够高效地完成原生多模态统一架构训练,最终配合上高质量的数据工程和训练方案EMMA能够在多模态理解、生成及编辑等榜单上大幅超过BAGEL。相较于理解SOTA模型Qwen3-VL-4B以及Qwen-Image也能展现出具备竞争力的结果。EMMA进一步揭示了原生多模态统一架构的潜力,也证明了原生多模态统一架构是能够超越专有模型的,为后续多模态统一架构研究奠定坚实的基础。

参考文献

[1] EMMA: Efficient Multimodal Understanding, Generation, and Editing with a Unified Architecture

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

大连网站建设物流网站建设

耳机 vs 扬声器:不同设备播放体验差异在语音合成技术日益成熟的今天,我们已经能用几秒钟的音频样本“克隆”出一个活灵活现的声音,并赋予它喜怒哀乐。像 Emot

2026/06/30 11:32:26

律师网站建设长沙网站建设公司

企业数字化转型案例:MGeo助力集团数据资产沉淀在大型企业集团的数字化转型进程中,数据孤岛和实体不一致是长期困扰数据治理的核心难题。尤其是在涉及地理信息、门店管理、物流配送

2026/06/30 11:36:56

网站建设规划书淮安网站建设

有源与无源蜂鸣器在Proteus中的驱动差异:从原理到实战的完整解析你有没有遇到过这种情况——在Proteus里搭好电路,代码也写得没问题,可蜂鸣器就是不响&

2026/06/30 11:53:28

网站建设论文襄樊网站建设

终极指南:用Zotero Format Metadata插件3倍提升文献管理效率【免费下载链接】zotero-format-metadataLinter for Zotero. An a

2026/06/30 14:11:39

潍坊网站建设涪陵网站建设

可溶于水的3D打印电子器件助力快速回收诸如蓝牙扬声器等电子设备,如今可以利用一种能在数小时内溶于水的材料进行3D打印。这项技术使得设计者能够快速制作原型,让由此产生的电子废

2026/06/30 13:59:38

广州建设网站宿迁网站建设

引言:从“认猫”说起想象你第一次教孩子认猫:你指着一只猫说:“这是猫”孩子看到:尖耳朵、长胡子、圆眼睛、毛茸茸大脑把这些特征组合起来形成“猫”的

2026/06/30 11:06:53

淮北网站建设网站建设免费

Wan2.2-T2V-A14B 与音视频协同生成的未来路径在短视频日活突破十亿、内容创作进入“实时化”竞争的时代,AI生成技术早已不再满足于“能出图”,而是向“会动、有声、

2026/06/30 11:36:26

上海网站建设中国建设银行网站

Qwen3Guard-Gen-8B与OrientDB图数据库整合:关系网络分析在当今AI内容爆发式增长的背景下,社交平台、智能客服和在线教育等高交互系统正面临前所未有的安全

2026/06/30 14:18:39

网站建设规划书石家庄网站建设

5大亮点深度解析:Dart Simple Live直播聚合神器从入门到精通【免费下载链接】dart_simple_live简简单单的看直播项目地址: https://gitcode.co

2026/06/30 12:34:32

网站优化建设做网站建设的公司

1.13 解决方案:把滚动视图中的内容拖曳到外面iOS所提供的手势识别器的功能确实很丰富,但并不总是能够满足开发者的需要。比方说,有个可以水平滚动的视图&#x

2026/06/30 10:26:20