RoboAtom:机器人学习的大规模原子-动作监督
论文:“RoboAtom: Large-scale Atomic-ActionSupervision For Robot Learning”, 2026年10月,来自上海人工智能实验室、浙江大学、复旦大学、清华大学和上海交通大学。
ROBOATOM 的主要价值,是将异构机器人数据整理成统一、时间对齐、可供模型学习的原子动作监督。论文对“大规模标注建设”和“自动标注性能提升”的证据较充分;对“组合泛化、真实机器人能力提升”的验证仍有限。
一、方法框架
ROBOATOM 包括数据构建、标注评测、自动标注模型和分层控制四个部分,其共同接口是:
原子动作片段 = (技能类别,动作描述,起止帧)
RoboAtom概览如图所示:

例如,“把杯子放进抽屉”可以分为 Pick、Open、Place;动作描述进一步记录操作对象、目标位置等信息。论文保留 29 类技能,并规定只有“主导技能改变”才建立新片段,接近、调整手臂等过程通常并入相邻动作。因此,这里的“原子”是标注协议定义的技能粒度,并非最小运动单元。
| 模块 | 主要功能 | 核心方法 |
|---|---|---|
| RoboAtom-Data | 统一已有轨迹的动作标注 | 标签映射、人工种子标注、PhysExtend 扩展、多阶段质检 |
| PhysExtend | 将少量参考标注传播到同任务轨迹 | 物理事件约束下的有序时间分割 |
| RoboAtom-Bench | 评测自动标注能力 | 同时考察时间边界、技能类别和序列结构 |
| RoboAtom-Anno | 根据视频自动生成动作片段 | 领域中训练、监督微调、GRPO |
| 双系统控制 | 将原子动作监督用于机器人执行 | 高层选择技能,低层策略生成连续动作 |
1. 数据构建:人工确定语义,物理信号扩大标注规模
RoboAtom构建流水线如图所示:

流程为:
已有真实/仿真轨迹 → 统一格式与技能词表 → 模型辅助人工标注 → PhysExtend 传播 → 视觉与人工复核。
最终统计覆盖约 145 万条轨迹、688 万个动作片段、16,882 小时、16 个来源。这些主要是对既有数据增加和规范化标注,不能理解为新采集了同等规模的机器人演示。
其中,人工负责确定动作语义和可靠边界;PhysExtend 利用重复演示扩大覆盖;后续复核修正对象、颜色、顺序和边界等问题。(§3)
2. PhysExtend:在已知动作顺序下定位边界
这是论文最核心的算法部分。
设目标轨迹长度为 T,已知技能序列为 y_{1:M},求满足
0 = b_0 < b_1 < ... < b_M =T
的边界。优化目标综合考虑:
- 相对于参考轨迹的位置和运动进度;
- 各动作片段的持续时间;
- 与技能相关的夹爪事件等物理证据。
算法先生成候选边界,通过动态规划联合选择,再利用可靠的抓取、释放事件修正边界。存在多个参考轨迹时,各自解码后融合,并保证边界有序、片段不重叠。
例如,Pick/Place 可利用夹爪状态变化,Move 可利用底盘运动;停顿、旋转和方向变化提供额外线索。
它解决的是“已知做什么、按什么顺序,确定什么时候发生”。它本身不从任意轨迹中发现未知技能序列。论文中的评测也明确要求同任务的五条轨迹具有相同技能顺序。(§3.3、附录 C.4)
3. RoboAtom-Anno:学习从视频直接生成标注
以 Qwen3.5-9B 为基础,训练分三阶段:
- 机器人领域中训练:学习夹爪状态、空间关系、目标定位和动作规划等知识。
- 监督微调:学习输出技能、描述和起止帧。
- GRPO 优化:用时间匹配、连续时间重叠、技能序列一致性和格式正确性作为奖励。
需要区分:PhysExtend 使用机器人状态/动作信号及参考序列;RoboAtom-Anno 则执行视频到动作标注的预测。两者的输入条件和任务难度不同,得分不能直接比较。(§5.1)
4. 双系统控制:把标注变成策略的中间指令
- System 2:Qwen3.8-27B 根据任务知识库中的计划先验、当前视觉观察和执行历史,决定当前执行哪个原子动作。
- System 1:经微调的 π0.5 接收技能指令,输出机器人动作块。
- 执行后的观察反馈给 System 2,用于继续当前动作或切换下一动作。
训练时,轨迹中每个观察—动作样本获得所属片段的技能条件;部署时,这些条件由高层规划器生成。(图6、§5.2)
二、主要贡献及证据
第一,构建了跨数据源共享的监督接口。
论文把技能类别、对象级描述和时间边界统一起来,缓解不同数据集在词表、粒度和时间覆盖上的不一致。这对跨来源联合训练具有直接价值。
标注实验也支持质量的重要性:基础模型的 Skill F1@0.7 为 3.5,使用原始噪声标注后为 6.6,标签对齐与歧义过滤后为 17.1,使用 RoboAtom 监督的语言侧 LoRA 配置达到 23.0。不过,这些配置涉及数据来源与清洗变化,不能完全归因为单一因素。
第二,提出了有实用价值的低成本传播方法。
在同序列传播实验中:
| 方法/配置 | Skill F1@0.7 |
|---|---|
| Cortex,1 条参考 | 48.5 |
| PhysExtend,1 条参考 | 71.0 |
| PhysExtend,4 条参考 | 79.3 |
单参考情况下,整条轨迹全部子任务正确的比例为 69%,Cortex 为 37%。这些结果支持:针对技能设计的物理线索,有助于处理执行速度和停顿差异。(表2、图3)
第三,建立了更完整的标注评测体系。
RoboAtom-Bench 包含 500 条轨迹、4,018 个片段,覆盖短、中、长序列和多视角输入。指标分别衡量:
- 时间重叠:mIoU、Temporal F1;
- 时间与技能联合正确性:Skill F1;
- 技能序列结构:Edit Score。
这种拆分能区分“知道发生了什么”和“准确知道什么时候发生”,避免仅用语言描述质量评价机器人视频理解。
第四,展示了自动标注和控制两条下游价值。
| 实验 | 对照 | ROBOATOM 结果 |
|---|---|---|
| RoboAtom-Bench,Skill F1@0.7 | GPT-5.6-sol:21.4 | Anno-9B:30.1;27B:33.8 |
| WGO-Bench Robot,Temporal F1@0.7 | 最强参考结果:31.3 | Anno-9B:48.3 |
| LIBERO-Long,成功率 | 95.00% | 98.20% |
| LIBERO-Plus,总成功率 | 84.05% | 88.18% |
| RoboTwin,平均成功率 | 64.37% | 66.17% |
外部 WGO 评测增强了自动标注结果的可信度。但其中报告的是时间指标,不能据此认定对象描述和动作语义也获得同等程度的提升。(表3、表4)
如图所示双-系统执行:

三、主要不足与结论边界
以下是结合实验设计作出的分析,其中大规模策略预训练与人类视频覆盖不足也由作者明确承认。
1. 传播依赖相同动作结构,限制了复杂轨迹覆盖。
PhysExtend 要求参考与目标共享技能顺序。实际任务可能出现额外重试、跳步、分支和不同完成路径,论文对结构不一致的任务采取排除扩展等处理。
这意味着方法非常适合重复演示丰富、执行结构稳定的数据,但对开放环境和失败恢复轨迹的适用性还不充分。不能将其理解为一般性的无监督技能发现方法。
2. 控制收益存在归因混杂。
控制实验同时改变了三个因素:
- 训练中的原子动作条件;
- 推理时增加的高层规划器;
- 任务知识库提供的计划先验。
虽然低层策略训练预算、观察和动作空间保持一致,推理系统获得的计算资源与先验仍不同。因此,实验支持的是整套分层方案有效,尚不能单独证明原子动作标注贡献了多少提升。
更有说服力的消融应分别测试移除计划检索、替换高层规划器,以及不同标注质量下的效果。
3. 长序列自动标注仍是明显短板。
Anno-9B 的 Skill F1@0.7 从 Short 的 71.1 降到 Long 的 17.3;整体也只有 30.1。(表 C.3)
这说明它相对通用模型的提升显著,但还不足以说明可以免人工生产高精度长任务标注。2 FPS、最多448帧的输入预算也限制了对短动作和长视频细节的捕捉。
4. 大规模数据质量的证据仍不够完整。
论文按“数据集—机器人类型”组合抽查,每组20条轨迹,并规定发布门槛:子任务分割准确率至少85%、整轨迹准确率至少75%。
但正文仍使用“达到标准后发布”的表述,缺少覆盖全部来源的最终质量报告、置信区间和标注者一致性统计。发布门槛不能当作全量数据已经达到的实测结果。
附录的自动复核提示还要求证据不足时保留原标注并输出“correct”。这有助于避免错误修改,但也意味着该模型复核结论不能直接视为独立质量真值。
5. 统一词表牺牲了部分语义细节,长尾能力验证不足。
29类中只有15类用于主要训练和基准,却覆盖99.2%的片段,说明技能分布高度集中。剩余14类的表现基本没有得到系统检验。
此外,Unfold 被并入 Fold、Unscrew 被并入 Screw,方向性语义留在文本描述中。Skill F1 只验证类别和边界,可能无法揭示这类描述错误;Edit 又会合并连续同类标签,可能掩盖重复操作次数错误。
6. 尚未证明大规模预训练收益与真实部署收益。
控制实验集中在仿真基准,尚无真实机器人闭环验证,也没有通过数据规模曲线证明145万条轨迹对通用策略预训练的价值。作者明确承认尚未验证大规模策略预训练。
同时,表4中 LIBERO-Plus Spatial 从93.01%降至92.46%,说明收益并非所有条件下一致。控制结果也未给出充分的多次训练随机种子统计,较小增益的稳定性仍需验证。
7. 成本优势需要限定口径。
PhysExtend 极低的成本是传播计算成本;Anno 的价格比较是推理成本。两者均不能代表完整数据生产成本,后者还需要人工种子标注、语义复核、模型训练及数据处理。论文报告人工精修约100美元/源视频小时,因此实际经济性取决于每份参考标注能复用多少次。
它是一项数据资源与标注工程贡献突出的工作,PhysExtend 是其中最有辨识度的算法;自动标注实验较有说服力,控制实验则提供了积极但尚未充分解耦的下游证据。 若要进一步支撑通用机器人学习的主张,最关键的是补充真实机器人验证、控制因素消融,以及数据规模与标注质量对策略能力的系统实验。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐


所有评论(0)