<p>正式入职小米还不到 10 天，<strong>罗福莉</strong>的首篇论文，这就来了！</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/0ad3098e-faf8-4408-b7f6-7637b3f8ad3a.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="124" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/0ad3098e-faf8-4408-b7f6-7637b3f8ad3a.png"/></section>
<p>在这篇出自<strong>MiMo 团队</strong>（主打空间智能）的研究中，罗福莉作为团队负责人担任<strong>核心作者</strong>，小米智驾团队首席科学家<strong>陈龙</strong>则作为项目负责人。</p>
<p>而这项研究最亮眼的地方，恰恰是具身智能与自动驾驶的跨界融合。</p>
<p>针对自驾与具身操作场景的知识迁移难题，MiMo 团队提出并开源了全球首个打通这两大领域的跨具身（X - Embodied）基座模型——<strong>MiMo-Embodied</strong>。</p>
<p>在实测效果上，MiMo-Embodied 在自动驾驶与具身智能共计<strong>29</strong>个 Benchmark 上全部霸榜！</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f08b327f-18eb-4b1b-967a-6efbc1afa3d5.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="499" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f08b327f-18eb-4b1b-967a-6efbc1afa3d5.png"/></section>
<p>无论是开车的环境感知、规划，还是机器人的拿取、导航，主打一个我全都要。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/1365d69b-5630-4677-84b4-6e01776f3174.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="1010" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/1365d69b-5630-4677-84b4-6e01776f3174.png"/></section>
<h2>具身与智驾，小米全都要！</h2>
<p>如上所说，小米这次开源的<strong>MiMo-Embodied</strong>是业界首个开源的、成功融合了自动驾驶与具身智能（Embodied AI）两大领域的统一多模态基础模型。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/b0957f80-f1fa-4c15-9ce3-b7defd51d150.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="530" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/b0957f80-f1fa-4c15-9ce3-b7defd51d150.png"/></section>
<p>它基于<strong>MiMo-VL</strong>架构，通过构建涵盖通用视觉、具身任务及驾驶场景的高质量数据集，并采用包含思维链（CoT）和强化学习（RL）的渐进式<strong>四阶段训练策略</strong>，有效打破了室内操作与户外驾驶之间的领域鸿沟。</p>
<p>最终，该模型在任务规划、空间理解、环境感知及驾驶规划等<strong>29</strong>个基准测试中，均超越了现有的专用模型及通用模型，实现了跨领域的最先进（SOTA）性能。</p>
<p>接下来，我们具体来看。</p>
<p>在以往具身/自驾的 VLM 领域中，往往存在以下问题：</p>
<p>一方面是<strong>缺乏统一的具身 VLM(Unified Embodied VLM)</strong>。</p>
<p>现有的视觉语言模型（VLMs）大多专注于单一领域（仅室内任务或仅户外驾驶），缺乏能够连接这两个领域的统一模型。限制了模型在动态环境中与物理世界有效交互的能力。</p>
<p>而这，也带来了<strong>领域差距与迁移困难</strong>。</p>
<p>具身智能侧重于室内操作，而自动驾驶侧重于户外道路，两者存在显著的领域差距（Domain Gap），阻碍了能力的跨领域迁移 。</p>
<p>另一方面则是<strong>评估体系缺失</strong>， 即缺乏全面的跨具身能力评估体系来衡量模型在两个领域的综合表现。</p>
<p>为了解决这些挑战， <strong>MiMo-Embodied</strong>试图将自动驾驶和具身智能的任务合并到一个统一的 VLM 中，以整合模型的跨具身能力。</p>
<p><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/314af91e-e0f6-40a5-b1f5-e85e8adf43f5.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="537" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/314af91e-e0f6-40a5-b1f5-e85e8adf43f5.png"/></p>
<p>如上图所示，<strong>MiMo-Embodied</strong>架构由以下三个部分组成：</p>
<ul>
<li>
用于编码视觉输入的 Vision Transformer (ViT)：模型使用 ViT 来编码各种类型的视觉输入，包括单张图像、多张图像和视频。这使得模型能够提取复杂的模式和关系。
</li>
<li>
一个投影器（projector）： 使用多层感知机（MLP）作为投影器（Projector），将视觉 Token 映射到与大语言模型对齐的潜在空间。
</li>
<li>
负责文本理解和推理的 LLM：LLM 作为核心组件，负责理解文本指令并结合视觉信息进行推理，生成连贯且上下文相关的响应。
</li>
</ul>
<p>由此，通过无缝集成视觉和文本领域，MiMo-Embodied 增强了多样化多模态推理任务和应用的潜力。</p>
<p>接下来，为了实现跨领域的统一能力，论文提出了一套系统的数据构建和分阶段训练策略：</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/45eeb432-c1d5-4eba-8c8e-755f29a0b116.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="551" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/45eeb432-c1d5-4eba-8c8e-755f29a0b116.png"/></section>
<p>首先在<strong>数据方面</strong>，训练数据涵盖了通用多模态理解、具身 AI（功能性预测、规划、空间理解）和自动驾驶（感知、预测、规划）三个维度的多模态数据：</p>
<ul>
<li>
<section>通用数据： 基于 MiMo-VL 语料库，包含图像、视频、长文本等，长文档和合成推理数据，确保广泛覆盖感知、推理和交互能力。</section>
</li>
<li>
<section>具身智能数据： 涵盖可供性预测（Affordance Prediction）、高层任务规划和空间理解，整合了如 PixMo-Points, RoboAfford, RoboRefIt 等数据集。</section>
</li>
<li>
<section>自动驾驶数据： 涵盖环境感知、状态预测和驾驶规划，整合了 CODA-LM, DriveLM, nuScenes-QA 等数据集。</section>
</li>
</ul>
<p>基于上述构建的数据集，研究又开发了一种<strong>四阶段训练策略</strong>。</p>
<p>基于 MiMo-VL，研究引入了具身智能和自动驾驶方面的专门监督，最终通过思维链微调和强化学习实现高级推理能力 。</p>
<p>这一策略有助于模型建立在先前获得的能力之上，从而在具身交互和自动驾驶领域实现稳健的性能。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/447ab8c5-3608-406b-9fff-bca2380a72a8.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="446" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/447ab8c5-3608-406b-9fff-bca2380a72a8.png"/></section>
<p><strong>阶段 1：具身智能监督微调 (Embodied AI Supervised Fine-tuning)</strong>：结合通用数据和具身数据，建立核心的视觉语言理解、具身推理能力。</p>
<p><strong>阶段 2：自动驾驶监督微调 (Autonomous Driving Supervised Fine-tuning)</strong>： 在阶段 1 的基础上，加入大量自动驾驶数据。重点训练多视角空间推理、视频时间一致性和复杂交通场景分析 。</p>
<p><strong>阶段 3：思维链推理微调 (CoT Supervised Fine-tuning)</strong>： 使用包含明确推理步骤的数据进行微调。这增强了模型处理复杂多步问题的能力，例如风险评估和行为合理性解释。</p>
<p><strong>阶段 4：强化学习微调 (RL Fine-Tuning)</strong>： 使用 GRPO (Group Relative Policy Optimization) 算法。通过针对正确性（如选择题匹配、IoU 计算）设计奖励信号，进一步优化模型的精确度和可靠性。</p>
<h2>实验测试</h2>
<p>为了验证 MiMo-Embodied 的性能，研究分别在定性和定量两层面进行评估，定量比较涉及针对具身智能和自动驾驶的各种既定学术和行业基准的客观评估，从而能够与领先模型进行直接的实证比较。</p>
<p>定性评估则展示了 MiMo-Embodied 在现实世界任务中的实际效能，突出了其在复杂机器人和自动驾驶场景中的部署，并提供了其将习得能力转化为有效性能的具体证据 。</p>
<p><strong>基准测试上的定量比较</strong></p>
<p>首先，在具身能力方面，研究在三个核心领域进行了全面评估：可供性预测、任务规划和空间理解。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/66a1ba75-9e5b-4cd4-bd0d-8cee42979f44.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="573" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/66a1ba75-9e5b-4cd4-bd0d-8cee42979f44.png"/></section>
<p>结果表明，MiMo-Embodied 取得了具有竞争力的结果，与通用多模态模型和专用具身模型相比，在可供性预测和空间理解方面表现出特别的优势。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/6e9d41e7-6752-4423-99a0-0e434de63999.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="559" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/6e9d41e7-6752-4423-99a0-0e434de63999.png"/></section>
<p>其次，在自动驾驶能力方面，研究在感知能力、预测能力和规划能力上进行了评估。包含在 4 种数据类型上的 12 个基准测试中的性能，涉及其理解复杂交通场景、预测动态道路智能体行为以及生成安全高效驾驶建议的能力。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/ffe1b378-d500-4dde-a39d-cb43a9688b57.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="680" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/ffe1b378-d500-4dde-a39d-cb43a9688b57.png"/></section>
<p>实验结果显示，MiMo-Embodied 在所有感知基准测试、预测、规划中均取得了强劲的性能，在全景语义理解任务中展示了最先进的结果，同时在具有挑战性的局部感知场景中也表现出卓越的鲁棒性。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/a47fa33c-f725-4f24-b273-bd25c4d0ac7c.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="636" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/a47fa33c-f725-4f24-b273-bd25c4d0ac7c.png"/></section>
<h2><strong>现实世界任务的定性评估</strong></h2>
<p>首先，为了验证 MiMo-Embodied 在复杂交互环境中的实际效用，研究评估了其在两个基本下游应用中的性能：具身导航和操作。</p>
<p>在具身导航中，相较于 GPT-4o、Qwen2.5-VL 和 RoboBrain-2.0，MiMo-Embodied 展现出在多样化家庭场景中增强的对象定位能力和一致的性能。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/9e59eadf-f29d-42d4-ab3e-9e5178fb9422.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="896" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/9e59eadf-f29d-42d4-ab3e-9e5178fb9422.png"/></section>
<p>在操作任务中，MiMo-Embodied 同样展现出强大的可供性和空间推理能力。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/373d3a92-6255-4c89-8432-2ae364862007.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="574" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/373d3a92-6255-4c89-8432-2ae364862007.png"/></section>
<p>在自动驾驶能力上，研究首先在 NAVSIM 上确定性能以进行标准化比较，然后在一个包含多样化真实世界驾驶场景的大规模专有数据集上测试模型的能力。</p>
<p>实验结果表明 MiMo-Embodied 可以处理多样化的自动驾驶情况并完成具有挑战性的任务，包括交叉路口转弯、弯道掉头、跟车和变道超车。</p>
<p>在每种情况下，模型都应感知道路上下文，整合自车状态和导航意图，并做出连贯的决策。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f7e4f323-affa-435f-9dfd-0f29b6cc3af2.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="714" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f7e4f323-affa-435f-9dfd-0f29b6cc3af2.png"/></section>
<p>此外，MiMo-Embodied 在所有评估类别中始终优于基线。值得注意的是，在转弯、绕开障碍物和变道等复杂、交互式操作中，性能提升最为显著。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/57b10c80-b6f6-4c91-8fd8-f49c078f62d9.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="618" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/57b10c80-b6f6-4c91-8fd8-f49c078f62d9.png"/></section>
<p>在最后，论文表示还将基于 MiMo-Embodied 模型的能力，探索具身智能视觉 - 语言 - 动作（VLA）模型，以增强复杂环境中的交互，通过自然语言理解实现更直观的任务执行。</p>
<h2>One more thing</h2>
<p>这篇论文，是罗福莉于 11 月 12 日正式官宣加盟小米、出任 MiMo 团队负责人后，发布的第一篇论文。</p>
<p>作为业界备受关注的 95 后 AI 才女，她本科毕业于<strong>北京师范大学</strong>，硕士在<strong>北京大学</strong>继续深耕。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/2b732286-bc8d-4ce7-acbe-e7994d2bc0af.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="400" height="400" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/2b732286-bc8d-4ce7-acbe-e7994d2bc0af.png"/></section>
<p>硕士毕业后，她加入<strong>阿里巴巴达摩院</strong>担任机器智能实验室研究员，主导开发多语言预训练模型 <strong>VECO</strong>，并推动核心项目 AliceMind 的开源落地。</p>
<p>2022 年，罗福莉加入<strong>DeepSeek</strong>母公司幻方量化，后续任职 DeepSeek 深度学习研究员，深度参与 DeepSeek-V2 等标杆模型的研发工作。</p>
<p>而本论文的 Project Leader（项目负责人）陈龙，也于今年正式入职小米，担任智能驾驶首席科学家。</p>
<section><img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/d74ee7a3-c634-475c-b883-0cbf472bd2a2.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="200" height="200" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/d74ee7a3-c634-475c-b883-0cbf472bd2a2.png"/></section>
<p>在此之前，陈龙曾任职于英国 AI 独角兽公司<strong>Wayve</strong>，主导新一代端到端自动驾驶 VLA 模型的研发。</p>
<p>更早前，他还以研究工程师身份加入<strong>Lyft</strong>，牵头车队学习项目，通过大规模众包车队数据完成自动驾驶车辆机器学习规划器的预训练。</p>
<p><span style="color: #808080">本文来源：量子位</span></p><div>风险提示及免责条款</div>
          <div>
            市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。
          </div>

小米集团(ADR)

小米集团-W

<p>罗福莉入职小米不到 10 天，作为核心作者发布首篇论文。MiMo 团队提出并开源了全球首个跨具身基座模型 MiMo-Embodied，融合自动驾驶与具身智能。该模型在 29 个基准测试中表现优异，打破了室内操作与户外驾驶的领域鸿沟，实现跨领域最先进性能。</p>

- 小米 MiMo 团队发布全球首个跨具身智能与自动驾驶的模型 MiMo-Embodied。  
- 该模型在 29 个基准测试中表现优异，超越现有专用模型。  
- 论文由罗福莉和陈龙主导，旨在解决领域迁移和评估体系缺失问题。  

罗福莉首个小米成果！开源具身大模型