论文:“RoboAtom: Large-scale Atomic-ActionSupervision For Robot Learning”, 2026年10月,来自上海人工智能实验室、浙江大学、复旦大学、清华大学和上海交通大学。

ROBOATOM 的主要价值,是将异构机器人数据整理成统一、时间对齐、可供模型学习的原子动作监督。论文对“大规模标注建设”和“自动标注性能提升”的证据较充分;对“组合泛化、真实机器人能力提升”的验证仍有限。

一、方法框架

ROBOATOM 包括数据构建、标注评测、自动标注模型和分层控制四个部分,其共同接口是:

原子动作片段 = (技能类别,动作描述,起止帧)

RoboAtom概览如图所示:

例如,“把杯子放进抽屉”可以分为 Pick、Open、Place;动作描述进一步记录操作对象、目标位置等信息。论文保留 29 类技能,并规定只有“主导技能改变”才建立新片段,接近、调整手臂等过程通常并入相邻动作。因此,这里的“原子”是标注协议定义的技能粒度,并非最小运动单元。

模块主要功能核心方法
RoboAtom-Data统一已有轨迹的动作标注标签映射、人工种子标注、PhysExtend 扩展、多阶段质检
PhysExtend将少量参考标注传播到同任务轨迹物理事件约束下的有序时间分割
RoboAtom-Bench评测自动标注能力同时考察时间边界、技能类别和序列结构
RoboAtom-Anno根据视频自动生成动作片段领域中训练、监督微调、GRPO
双系统控制将原子动作监督用于机器人执行高层选择技能,低层策略生成连续动作

1. 数据构建:人工确定语义,物理信号扩大标注规模

RoboAtom构建流水线如图所示:

流程为:

已有真实/仿真轨迹 → 统一格式与技能词表 → 模型辅助人工标注 → PhysExtend 传播 → 视觉与人工复核。

最终统计覆盖约 145 万条轨迹、688 万个动作片段、16,882 小时、16 个来源。这些主要是对既有数据增加和规范化标注,不能理解为新采集了同等规模的机器人演示。

其中,人工负责确定动作语义和可靠边界;PhysExtend 利用重复演示扩大覆盖;后续复核修正对象、颜色、顺序和边界等问题。(§3)

2. PhysExtend:在已知动作顺序下定位边界

这是论文最核心的算法部分。

设目标轨迹长度为 T,已知技能序列为 y_{1:M},求满足

0 = b_0 < b_1 < ... < b_M =T

的边界。优化目标综合考虑:

  • 相对于参考轨迹的位置和运动进度;
  • 各动作片段的持续时间;
  • 与技能相关的夹爪事件等物理证据。

算法先生成候选边界,通过动态规划联合选择,再利用可靠的抓取、释放事件修正边界。存在多个参考轨迹时,各自解码后融合,并保证边界有序、片段不重叠。

例如,Pick/Place 可利用夹爪状态变化,Move 可利用底盘运动;停顿、旋转和方向变化提供额外线索。

它解决的是“已知做什么、按什么顺序,确定什么时候发生”。它本身不从任意轨迹中发现未知技能序列。论文中的评测也明确要求同任务的五条轨迹具有相同技能顺序。(§3.3、附录 C.4)

3. RoboAtom-Anno:学习从视频直接生成标注

以 Qwen3.5-9B 为基础,训练分三阶段:

  1. 机器人领域中训练:学习夹爪状态、空间关系、目标定位和动作规划等知识。
  2. 监督微调:学习输出技能、描述和起止帧。
  3. GRPO 优化:用时间匹配、连续时间重叠、技能序列一致性和格式正确性作为奖励。

需要区分:PhysExtend 使用机器人状态/动作信号及参考序列;RoboAtom-Anno 则执行视频到动作标注的预测。两者的输入条件和任务难度不同,得分不能直接比较。(§5.1)

4. 双系统控制:把标注变成策略的中间指令

  • System 2:Qwen3.8-27B 根据任务知识库中的计划先验、当前视觉观察和执行历史,决定当前执行哪个原子动作。
  • System 1:经微调的 π0.5 接收技能指令,输出机器人动作块。
  • 执行后的观察反馈给 System 2,用于继续当前动作或切换下一动作。

训练时,轨迹中每个观察—动作样本获得所属片段的技能条件;部署时,这些条件由高层规划器生成。(图6、§5.2)

二、主要贡献及证据

第一,构建了跨数据源共享的监督接口。

论文把技能类别、对象级描述和时间边界统一起来,缓解不同数据集在词表、粒度和时间覆盖上的不一致。这对跨来源联合训练具有直接价值。

标注实验也支持质量的重要性:基础模型的 Skill F1@0.7 为 3.5,使用原始噪声标注后为 6.6,标签对齐与歧义过滤后为 17.1,使用 RoboAtom 监督的语言侧 LoRA 配置达到 23.0。不过,这些配置涉及数据来源与清洗变化,不能完全归因为单一因素。

第二,提出了有实用价值的低成本传播方法。

在同序列传播实验中:

方法/配置Skill F1@0.7
Cortex,1 条参考48.5
PhysExtend,1 条参考71.0
PhysExtend,4 条参考79.3

单参考情况下,整条轨迹全部子任务正确的比例为 69%,Cortex 为 37%。这些结果支持:针对技能设计的物理线索,有助于处理执行速度和停顿差异。(表2、图3)

第三,建立了更完整的标注评测体系。

RoboAtom-Bench 包含 500 条轨迹、4,018 个片段,覆盖短、中、长序列和多视角输入。指标分别衡量:

  • 时间重叠:mIoU、Temporal F1;
  • 时间与技能联合正确性:Skill F1;
  • 技能序列结构:Edit Score。

这种拆分能区分“知道发生了什么”和“准确知道什么时候发生”,避免仅用语言描述质量评价机器人视频理解。

第四,展示了自动标注和控制两条下游价值。

实验对照ROBOATOM 结果
RoboAtom-Bench,Skill F1@0.7GPT-5.6-sol:21.4Anno-9B:30.1;27B:33.8
WGO-Bench Robot,Temporal F1@0.7最强参考结果:31.3Anno-9B:48.3
LIBERO-Long,成功率95.00%98.20%
LIBERO-Plus,总成功率84.05%88.18%
RoboTwin,平均成功率64.37%66.17%

外部 WGO 评测增强了自动标注结果的可信度。但其中报告的是时间指标,不能据此认定对象描述和动作语义也获得同等程度的提升。(表3、表4)

如图所示双-系统执行:

三、主要不足与结论边界

以下是结合实验设计作出的分析,其中大规模策略预训练与人类视频覆盖不足也由作者明确承认。

1. 传播依赖相同动作结构,限制了复杂轨迹覆盖。

PhysExtend 要求参考与目标共享技能顺序。实际任务可能出现额外重试、跳步、分支和不同完成路径,论文对结构不一致的任务采取排除扩展等处理。

这意味着方法非常适合重复演示丰富、执行结构稳定的数据,但对开放环境和失败恢复轨迹的适用性还不充分。不能将其理解为一般性的无监督技能发现方法。

2. 控制收益存在归因混杂。

控制实验同时改变了三个因素:

  • 训练中的原子动作条件;
  • 推理时增加的高层规划器;
  • 任务知识库提供的计划先验。

虽然低层策略训练预算、观察和动作空间保持一致,推理系统获得的计算资源与先验仍不同。因此,实验支持的是整套分层方案有效,尚不能单独证明原子动作标注贡献了多少提升。

更有说服力的消融应分别测试移除计划检索、替换高层规划器,以及不同标注质量下的效果。

3. 长序列自动标注仍是明显短板。

Anno-9B 的 Skill F1@0.7 从 Short 的 71.1 降到 Long 的 17.3;整体也只有 30.1。(表 C.3)

这说明它相对通用模型的提升显著,但还不足以说明可以免人工生产高精度长任务标注。2 FPS、最多448帧的输入预算也限制了对短动作和长视频细节的捕捉。

4. 大规模数据质量的证据仍不够完整。

论文按“数据集—机器人类型”组合抽查,每组20条轨迹,并规定发布门槛:子任务分割准确率至少85%、整轨迹准确率至少75%。

但正文仍使用“达到标准后发布”的表述,缺少覆盖全部来源的最终质量报告、置信区间和标注者一致性统计。发布门槛不能当作全量数据已经达到的实测结果。

附录的自动复核提示还要求证据不足时保留原标注并输出“correct”。这有助于避免错误修改,但也意味着该模型复核结论不能直接视为独立质量真值。

5. 统一词表牺牲了部分语义细节,长尾能力验证不足。

29类中只有15类用于主要训练和基准,却覆盖99.2%的片段,说明技能分布高度集中。剩余14类的表现基本没有得到系统检验。

此外,Unfold 被并入 Fold、Unscrew 被并入 Screw,方向性语义留在文本描述中。Skill F1 只验证类别和边界,可能无法揭示这类描述错误;Edit 又会合并连续同类标签,可能掩盖重复操作次数错误。

6. 尚未证明大规模预训练收益与真实部署收益。

控制实验集中在仿真基准,尚无真实机器人闭环验证,也没有通过数据规模曲线证明145万条轨迹对通用策略预训练的价值。作者明确承认尚未验证大规模策略预训练。

同时,表4中 LIBERO-Plus Spatial 从93.01%降至92.46%,说明收益并非所有条件下一致。控制结果也未给出充分的多次训练随机种子统计,较小增益的稳定性仍需验证。

7. 成本优势需要限定口径。

PhysExtend 极低的成本是传播计算成本;Anno 的价格比较是推理成本。两者均不能代表完整数据生产成本,后者还需要人工种子标注、语义复核、模型训练及数据处理。论文报告人工精修约100美元/源视频小时,因此实际经济性取决于每份参考标注能复用多少次。


它是一项数据资源与标注工程贡献突出的工作,PhysExtend 是其中最有辨识度的算法;自动标注实验较有说服力,控制实验则提供了积极但尚未充分解耦的下游证据。 若要进一步支撑通用机器人学习的主张,最关键的是补充真实机器人验证、控制因素消融,以及数据规模与标注质量对策略能力的系统实验。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐