1. 引言:具身智能,到底「智能」在哪

很多人第一次听到「具身智能」时,会把它简单理解为:让 AI 会「看」图、会「听」声音、会「读」文字,也就是我们常说的多模态大模型。这个理解非常普遍,但并不准确。

打个比方:

  • 一个普通的图文多模态模型,像一位坐在书房里的聪明学者。你给它一张照片,它能准确说出「桌上有三个苹果、颜色分别是红绿黄」,还能写一首关于苹果的诗。
  • 一个具身智能模型,则像一位站在厨房里的机器人。它不仅要「看见」苹果,还要判断哪个苹果能摘、手要伸多长、用多大力才不会捏坏,最后真正把苹果拿起来放进篮子。

两者最大的区别在于:多模态模型止步于「理解与表达」,而具身智能必须走完「感知 → 决策 → 行动」的完整闭环。

用一句话概括:具身智能不是多模态看图,而是能在物理世界里做决策。


2. 普通多模态模型 vs 具身智能

要理解具身智能,先要分清它和普通多模态模型的边界。两者虽然都理解图像,但目标、输出和执行方式完全不同。

具身智能模型

普通图文多模态模型

止步于感知

形成闭环

输入:图片 + 文字

输出:文字 / 标签 / 描述

结束:不改变物理世界

输入:传感器实时观测

输出:物理动作 / 控制指令

执行:改变真实环境

纸面能力

物理世界中的行动能力

对比维度普通图文多模态模型具身智能模型
输入单帧图片、视频、文字多传感器实时流:摄像头、力觉、触觉、关节状态、IMU、深度等
输出文字描述、分类、VQA 回答物理世界的动作:关节角度、力矩、位移、夹爪开合等
有没有「身体」没有,无需考虑自身形态有,必须考虑运动学、动力学、载体形态约束
是否形成闭环否,多为一次性推理是,行动结果会反馈回来,持续影响下一步决策
典型任务图像问答、图像描述生成抓取、插入、组装、拧螺丝、避障导航、开门
评价方式文本相似度、准确率等「纸面指标」任务成功率、完成时长、重试次数等「物理指标」

核心区别总结:

多模态模型回答「这是什么」,而具身智能模型要解决「我现在该怎么办」。

前者可以离线思考,后者必须在线决策,因为机器人和环境的每一次交互,都会改变下一步的状态。举个最简单的例子:机器人抓杯子时,杯子被碰倒了,它必须立刻根据新情况调整策略——这种「边做边看、边看边改」的能力,是普通图文模型完全不具备的。


3. 具身智能的核心:感知、状态、动作的闭环

具身智能之所以难,是因为它需要在一个连续变化的动态环境中做实时决策。这个决策过程可以抽象成三个环节,形成一个闭环。

内部世界模型

感知 Perception:传感器采集环境与自身信息

状态 State:构建此刻的物理世界状态与自身状态

规划与决策 Planning:根据目标输出动作

执行 Action:驱动机器人在物理世界行动

环境反馈 Feedback:动作改变环境,产生新观测

用于预测与短期记忆

3.1 感知:不止是「看见」

具身智能的感知是多模态、多通道、持续进行的:

  • 视觉:RGB 相机、深度相机,获取颜色和距离信息;
  • 本体感受:关节编码器感知每个关节的角度和速度;
  • 力/触觉:力传感器知道夹爪用了多大力,是否抓稳;
  • 惯性测量单元:感知自身姿态和加速度。

关键点在于,这些感知是以控制频率实时刷新的。机器人可能每秒要做几十次决策,而不是拍一张照片、想几分钟再回答。

3.2 状态:在大脑里建一个「此刻的世界」

感知到的原始信息,不能直接用来做决策。模型需要在内部建立一个状态表示,回答三个问题:

  1. 我自己的身体现在是什么姿态?手在哪?夹爪开多大?
  2. 环境里有哪些物体?位置、朝向、相互遮挡关系如何?
  3. 我的任务进行到哪一步了?

这个「状态」就像一个内部世界模型。好的具身智能模型,能在状态空间中预测:如果我把手继续往前伸 5 厘米,会发生什么?

3.3 动作:把决策变成物理操作

最终模型输出的是动作指令,常见形式包括:

  • 末端执行器的目标位姿(六自由度位置 + 姿态);
  • 各关节的目标角度或目标力矩;
  • 夹爪的开合程度、运动速度;
  • 移动底盘的速度和转向。

这些动作指令会经过控制器和执行器落实到真实硬件上。动作一旦发出,就会改变环境,于是新的感知数据又进来了,循环往复。

3.4 为什么闭环是关键

如果没有闭环,就会出现这样的问题:机器人以为杯子就在坐标 (0.5, 0.3),但实际杯子因为打滑偏了 2 厘米。它若按照旧坐标盲目去抓,就会抓空。

有了闭环,机器人会持续观察:指尖移到哪里了?杯子实际在哪?偏差有多大?然后不断修正动作。这正是具身智能与「看一张图然后输出一个答案」最本质的区别:它是在持续的反馈中做决策。


4. 机器人场景下的 Worken 指标

在机器人学和具身智能研究中,评价一个模型的真实能力,不能只看它在静态数据集上的识别准确率,而要看它在实际机器人操作任务中的表现。业内通常关注一套面向操作的评估框架——这里以 Worken 指标为代表,核心衡量机器人在真实环境中「把任务完成到什么程度」。

Worken 指标一般包含以下几个维度:

指标含义举例
成功率(Success Rate)在规定条件下完成任务的比例100 次抓取中 85 次成功拿起目标物体
完成率(Completion Rate)任务是否达到最终目标状态插销是否完全插入孔中,而不只是对准
平均完成时长(Time to Complete)从任务开始到成功完成的耗时从识别物体到把物体放入指定位置的用时
重试次数(Retries)失败后重新尝试的次数抓取打滑后,模型能否自动重抓
泛化成功率在未见过的物体、场景、光照下仍能成功的比例训练只见过 10 种杯子,测试换 50 种新杯子

这套指标的重要性在于:

  1. 对抗「刷分」:只看识别准确率,会让模型倾向于输出「看起来对」但不一定可执行的答案。Worken 指标把评价拉回到「动作是否真的成功」。
  2. 强调物理约束:时间成本、重试成本是真实机器人系统的核心约束。一个 10 分钟才能完成、重试十几次的操作,即使最终成功,也很难落地。
  3. 推动闭环优化:成功率低通常暴露的是闭环能力不足——感知噪声、状态估计偏差、动作规划失误——而非单一识别错误。

以「桌面抓取」任务为例,一个合格的具身智能系统,应能在 2 秒内完成物体识别、在 5 秒内完成一次抓取规划、夹爪力控不捏坏软物体、抓取成功后稳定移动 30 厘米不掉落。这些都以 Worken 类指标进行量化验收。


5. 当前落地卡点:为什么具身智能离实用还有距离

尽管理论框架清晰、研究进展迅速,具身智能目前仍处于「实验室演示惊艳、真实落地困难」的阶段。最突出的两个卡点是:真实世界泛化弱和仿真与现实鸿沟。

5.1 卡点一:真实世界泛化弱

实验室里训练好的模型,换个环境、换个物体、换个光照,成功率可能断崖式下降。原因是真实世界存在大量难以穷举的变化:

  • 光照变化:晴天 / 阴天 / 室内灯光 / 逆光阴影,同一物体的视觉特征完全不同;
  • 物体变化:同样是「杯子」,材质有玻璃、陶瓷、塑料、纸杯,形状千奇百怪,还有透明、反光、可变形物体;
  • 场景变化:桌面颜色、背景杂乱程度、物体之间的遮挡关系,都会影响感知结果;
  • 执行器变化:不同机器人关节精度、响应速度、夹爪类型各异,模型需要适应不同的「身体」。

传统深度学习依赖大量标注数据,但机器人真实操作数据的采集成本极高:需要实体机器人、需要安全监控、需要人工重置场景。数据不足导致模型在训练分布之外的场景表现迅速恶化。

解决方向:

  • 大规模仿真数据增强:在虚拟环境中随机化物体、光照、材质,生成海量训练样本;
  • 自监督与互模拟学习:让机器人在海量随机交互中自主学习,减少对人工标注的依赖;
  • 域随机化(Domain Randomization):训练时故意引入视觉和动力学扰动,强制模型学习鲁棒特征。

5.2 卡点二:仿真与现实鸿沟(Sim-to-Real Gap)

为解决真实数据不足的问题,研究者普遍先在仿真环境中训练,再把策略迁移到真机。但仿真环境与真实物理世界之间存在系统性差异,这就是著名的 Sim-to-Real Gap。

差异来源仿真环境真实世界
动力学理想化物理参数,摩擦、弹性、碰撞解算简化摩擦系数变化、物体变形、碰撞具有不确定性
传感器完美噪声模型、无遮挡干扰真实相机噪声、运动模糊、传感器漂移
渲染光照可精确控制,物体纹理可控复杂光照、反射材质、半透明物体
接触接触模型往往过于「干净」抓取时微小滑动、力反馈复杂多变
时间离散固定时间步长,采样稳定实时控制频率波动、通信延迟

结果是:模型在仿真里成功率 95%,迁移到真机后可能骤降到 30%。机器人抓取任务尤其明显,因为抓取的成败高度依赖接触力、摩擦力和物体微小的几何变化。

解决方向:

  • 高保真物理引擎:提升接触动力学、软体模拟的逼真度;
  • 域随机化:在仿真中随机化摩擦系数、物体质量分布、传感器噪声,使训练策略被迫覆盖更广的物理分布,从而在真实环境中更鲁棒;
  • Sim-to-Real 适应与微调:用少量真实数据在仿真模型基础上微调;
  • 数字孪生:将真实环境的数字模型实时同步到仿真中,用于在线训练和验证;
  • 真实-仿真联合学习:交替使用仿真和真机数据,逐步缩小分布差距。

6. 配图:两张核心示意

6.1 具身智能感知 - 规划 - 执行闭环图

具身智能闭环

动作指令

真实物理世界

感知 Perception
多传感器实时观测

状态 State
内部世界模型

规划 Planning
基于目标决策

执行 Action
机器人物理动作

环境反馈 Feedback
动作改变环境

电机 / 关节 / 夹爪

被操作物体与场景

6.2 多模态模型 vs 具身智能对比卡片

本质区别

具身智能模型

输入:传感器实时流

输出:物理动作指令

能力:感知 - 决策 - 执行闭环

普通图文多模态模型

输入:图片 + 文字

输出:文字描述 / 答案

能力:识别、理解、生成


7. 总结

具身智能的核心,不是「看得更多、理解得更深」,而是在物理世界中持续做决策。它与普通多模态模型的分界线,就在于有没有一个完整的「感知 → 状态 → 动作」闭环,以及是否以物理世界中的任务成功率——而非纸面识别率——作为衡量标准。

当前具身智能面临的最大挑战,是真实世界泛化弱与仿真与现实鸿沟。前者源于真实数据的稀缺与场景的复杂性,后者源于物理仿真能力的局限。谁能在这两个方向实现突破,谁就更有可能率先把机器人从实验室搬进千家万户。

一句话记住:多模态模型会「看图说话」,而具身智能必须「看着世界、采取行动、再根据结果调整行动」。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐