26年7月来自复旦、上海多模态具身智能重点实验室和深朴智能的论文“EgoRecovery: Acquiring Failure Recovery Ability Through Human Recovery Demonstration”。

稳健的具身机器人若要在非结构化且充满噪声的现实环境中可靠运行，必须具备从故障中恢复并重试任务的能力。实现这一能力需要利用包含恢复行​​为的数据来训练策略。然而，通过机器人遥操作收集此类数据难以扩展，因为诱发各种故障状态、执行纠正动作以及重置环境都非常耗时。故障模式的高度多样性进一步加剧了这一挑战，使得所需的恢复数据量远超成功操作的演示数据量。本研究表明，记录人类执行故障恢复过程的“第一人称视角”（egocentric）数据，提供了一种可扩展的替代方案。

通过高效安排任务层面的故障配置并记录简短的恢复片段，在实验方案下，人类操作员每小时生成的有效恢复数据量可达机器人遥操作的10倍以上。为了解决人类与机器人之间的具身差异（embodiment gap），提出 EgoRecovery——一个用于学习恢复行为的协同训练框架。在该框架中，人类的恢复演示被映射到一个与机器人数据共享的紧凑“纠正-意图空间”（corrective-intent space），该空间捕捉纠正的时机与幅度。仅需少量的机器人恢复演示，即可将此意图与机器人可执行的动作建立联系。在部署阶段，一个学习的“恢复门控”（recovery gate）会根据机器人的观测结果预测何时需要纠正，并仅在故障恢复状态下激活相应的纠正意图。针对现实世界恢复任务的实验表明，与仅使用机器人数据进行恢复、直接利用人类恢复数据进行协同训练以及直接意图迁移等基线方法相比，EgoRecovery 在从故障状态启动并成功完成任务方面表现更优。

模仿学习中的恢复与纠正。恢复监督旨在解决当模仿策略偏离演示流形（demonstration manifold）时产生的协变量偏移问题。DAgger 针对策略所引发的状态收集标签，而 DART 则训练策略以应对演示轨迹附近的扰动状态 [14, 20, 22, 38, 46]。近期的机器人相关研究扩展了这一思路，具体方法包括：收集恢复轨迹、利用干预信号、在运行期间检测故障，或利用学习模型生成纠正行为 [16, 28, 31, 33, 42, 55, 56, 62, 67]。这些研究表明，针对故障状态附近的监督能够提升闭环系统的鲁棒性；然而，若通过机器人实际运行（rollouts）、人工干预或替代机器人轨迹来获取纠正数据，则针对多样化故障状态进行监督的成本依然高昂。EgoRecovery 依然以恢复监督为目标，但将部分故障状态的获取过程转移到了以自我视角（egocentric）进行的人类恢复片段上，这些片段围绕任务层面的故障场景构建。

跨具身（cross-embodiment）的可迁移表征。除非将共享的任务信息与特定于具身的执行过程分离开来，否则人类的恢复（recovery）片段无法直接用作机器人的演示数据。因此，跨具身模仿通常迁移的是紧凑的行为描述（如潜规划、技能、affordance及意图变量）而非原始轨迹数据 [6, 10, 12, 13, 17, 18, 21, 23, 34, 36, 43, 47, 50, 57, 58, 63, 69]。这些抽象概念促使其采用“纠正性意图”这一思路，但本文的研究范围更为具体。EgoRecovery 并不旨在学习通用的“人类意图先验”；它迁移的是一个紧凑的纠正性意图目标，而具体的方向、接触方式及可执行动作则由机器人的观测数据和自身数据来确定。此外，“恢复门控”（recovery gate）机制将这种迁移限制在确需纠正的状态下，从而将方法与直接混合人类恢复数据或无门控的意图迁移区分开来。

EgoRecovery概览如图 1所示，它的主要创新包括：

• 引入以自我为中心的人类恢复，作为恢复监督的可扩展来源，涵盖不同的任务级故障状态，并在协议下为每个操作员小时提供超过 10 倍的有效恢复监督。
• 提出EgoRecovery，它通过纠正意图而不是人类行为标签来传输人类恢复，具有用于共享意图的恢复意图头和用于决定何时应影响机器人行为的恢复门头。
• 在受控数据预算下评估真实的机器人恢复，并表明EgoRecovery 比纯机器人恢复、人类成功协同训练、与人类恢复数据的直接协同训练以及非门控意图转移基线改进了闭环恢复。

如图 2所示，对EgoReocvery的概览：a. 在训练阶段，机器人的成功执行维持正常的运行流程；机器人的恢复行为将纠正意图落实为可执行的动作；而人类介入的恢复则扩展对故障状态的覆盖范围。恢复标注定义恢复状态标签 s_t 和意图掩码 m_t，用于监督意图预测与恢复门控（recovery-gate）预测。b. 在部署阶段，机器人仅依赖自身的观测信息。只有当预测的门控信号 p_t 指示需要进行恢复时，预测出的意图 c_t 才会通过门控 FiLM 机制对解码器特征进行调制。

1 人类与机器人数据采集

机器人恢复数据提供可执行的纠正动作，但其扩展成本高昂，因为每个片段（episode）都需要构建故障状态、验证其有效性、通过遥操作执行纠正动作以及重置硬件。采集以人为中心的恢复数据则提供一种成本低得多的替代方案。在相同的流程（包括构建场景、重置、同步及剔除无效尝试）下，与遥操作机器人恢复相比，人类恢复数据在每操作员小时内能提供约10倍的有效恢复片段。

数据类型。针对每项任务，本文探讨、四种数据类型：机器人成功、机器人恢复、人类成功和人类恢复。机器人成功数据提供了成功执行任务所需的常规机器人动作标签，而机器人恢复数据则提供了机器人失败时的初始状态及相应的纠正动作。人类成功和恢复数据与对应的机器人数据类似，但不直接用于训练机器人动作头（action head）；它们仅用于提取紧凑的意图表征并监督人类动作解码头。各类数据的片段数量如下：机器人成功（50）、机器人恢复（50）、人类成功（300）和人类恢复（300）。

恢复标签。每个恢复片段均始于故障状态，并分为两个阶段：恢复阶段和常规执行阶段。标注的时间边界 t_{rec}划分了这两个阶段，标志着纠正动作的结束和常规任务执行的恢复。恢复状态标签 s_t 在时间步 t_{rec} 之前设为真（True），之后设为假（False）；该标签用于监督“恢复门控头”（Recovery Gate Head，详见第3.3节），以识别是否需要恢复行为。意图掩码 m_t 针对特定帧进行定义：这些帧的未来动作窗口需完全处于恢复阶段内，且通过关于填充（padding）、截断（truncation）、动作缺失及近乎静止状态的检查。成功片段将 s_t 和 m_t 均设为假（False），从而为门控机制提供负样本，并防止常规执行过程被误定义为具有纠正意图。

2 面向人机恢复学习的“纠正意图”

人类的恢复动作只有通过在不同物理形态（embodiment）间具有通用意义的信息，才能指导机器人的恢复过程。由于人手与机器人末端执行器（夹爪）在接触特性、运动学和控制方式上存在差异，直接复制人类动作会将特定于人类形态的动作转化为错误的机器人动作目标。因此，采用“纠正意图”作为中间监督目标，而非将人类动作直接视为机器人动作。在本文中，“纠正意图”指的是剩余恢复动作的一个粗略包络（coarse envelope）。它描述了在短时间窗口内所需的修正量，而门控机制 p_t 则独立预测当前观测是否处于恢复状态。该意图将具体的运动方向、接触细节及可执行的电机指令留给机器人自身的观测数据和动作监督机制来处理。

基于末端执行器在未来短时间窗口内的运动轨迹来构建这一目标，而非依赖人工语义标签或完整的 14 维动作片段。对于由 m_t 选定的某一帧，设 P^d_{t,a} 为形态 d 下活跃末端执行器 a 在未来的位置序列，s_d 为该形态的尺度参数。为了使包络形式紧凑且对微小的时间或接触差异不敏感，将归一化后的未来运动轨迹投影到低频离散余弦变换（DCT）基底上，其中𝐶_𝐾 包含未来时间窗口内前 𝐾 个低频 DCT 基向量。DCT 仅用于概括时间包络；空间范数消除特定方向的位移，仅保留每个活跃执行器（active effector）的幅值分布。因此，𝑦_𝑡 并非动作计划或语义意图标签，它仅规定剩余校正幅值在时间窗口内的变化过程。这种设计使得目标具有可迁移性，但特意保持了不完整性：可执行的方向和接触信息是通过机器人自身的观测及恢复动作学习得到的。在主要实验中，采用一个活跃执行器和四个时间系数，构成一个四维目标。
意图掩码（intent mask）决定了该目标在何处监督策略。仅在 𝑚_𝑡 为真时应用意图损失，可避免将常规运动或无效的未来片段误视为校正意图的样本。这使得两种恢复来源发挥互补作用：人类恢复数据用于在大量相关失败状态下训练意图预测器，而机器人恢复数据则提供相同的目标以及机器人动作标签。随后，机器人解码器便能学习如何将预测出的意图转化为可执行的控制指令。

3 用于机器人恢复执行的门控意图调制

预测出的意图仅应在需要校正时影响机器人动作的解码过程。否则，若解码器在每个时间步都接收意图信息，恢复监督信号可能会干扰从机器人成功数据中学到的行为模式。因此训练一个恢复门控模块，根据当前观测预测 𝑐_𝑡 是否应当对机器人解码器进行调制。

该策略采用 HPT 风格的异构主干网络 [53]，在共享主干的基础上配置针对特定具身（embodiment）的适配器与解码器。每个观测数据先由其对应的具身适配器编码，再由共享主干进行处理。经池化后的表征被输入到两个共享预测头中：意图预测头（Intent Head）负责预测 𝑐_𝑡，恢复门控头（Recovery Gate Head）则预测 𝑝_𝑡（即当前观测需要恢复行为的概率）。机器人解码器将机器人特征映射为机器人动作，而辅助人类解码器则将人类特征映射为人类动作。辅助人类运动损失仅用于训练人类域解码器及共享表征，不监督机器人解码器，也不被视为跨具身动作标签。这种设计既区分特定具身的动作空间，又允许利用来自两种具身的恢复观测数据来训练共享主干和意图预测头。

机器人解码器在输出投影之前，通过门控残差 FiLM 调制接收 𝑐_𝑡 信号。设 H_t 为该投影之前的机器人解码器特征，并设 Gamma 和 B 将 c_t 映射为针对特征维度的缩放（scale）与平移（shift）项。设定标量门控 alpha_t = s_g(p_t)，该门控在特征维度上进行广播，并阻断调制路径中流经门控的梯度。这种残差形式明确恒等映射路径（identity path）。

当 p_t 较高时，残差项会在动作预测之前注入修正意图。在选定的机器人恢复（recovery）帧中，同一观测数据既会产生针对 c_t 的意图损失，也会通过经调制后的解码器产生机器人动作损失。机器人动作损失允许通过 Gamma(c_t) 和 B(c_t) 反向传播至意图头（Intent Head），从而使机器人恢复过程能够指导预测意图如何影响可执行动作。带掩码的意图损失将 c_t 锚定在共享目标 y_t 上，防止其漂移至不受约束的、仅限机器人的潜空间（latent space）中。梯度阻断机制确保门控受恢复状态标签的监督，而非通过模仿损失进行间接优化。

训练目标遵循了针对不同数据源的职责划分原则。在这一目标中，人类恢复动作决定意图与触发条件，机器人恢复动作将预测的意图转化为机器人可执行的动作，而机器人成功执行的数据则用于维持正常的执行过程。

在部署阶段，机器人仅使用机器人观测数据、预测意图、预测门控值以及机器人解码器。恢复标签和意图目标仅在训练期间使用。

1 实验设置

实验方案。所有评估均在真实机器人上进行闭环试运行（rollout）。在测试阶段，策略仅接收来自机器人的观测信息，而无法获取人类视频、恢复窗口标签或纠正意图目标。报告两个成功指标，用以区分常规任务执行与恢复行为：初始成功率（Initial SR）衡量从正常初始状态开始的任务完成情况，而恢复成功率（Recovery SR）衡量从非正常状态开始的任务完成情况。若机器人在规定的时间限度内完成任务，则该次试运行被视为成功。图3展示用于闭环评估的机器人平台及任务对象。

任务。评估四项桌面操作任务：杯刷插入、桌面清扫、圆盘放置和方块堆叠。这些任务涵盖“后退并重对齐”、“纠正性清扫”、“提起-重对齐-放置”以及“堆叠稳定”等操作模式。失败起始状态的构建遵循与常规任务相同的恢复模式，因此该评估旨在测试从相关失败状态恢复的能力，而非测试向无关技能的迁移能力。

基线方法。根据载体（embodiment）和阶段直接命名数据源。Robot success (n) 表示 𝑛 个机器人成功演示，Robot recovery (n) 表示 𝑛 个机器人恢复演示，Human success (n) 表示 𝑛 个人类成功演示，Human recovery (n) 表示 𝑛 个人类恢复演示。还报告一个“机器人等效恢复预算”（记为 B_RobotEq）；基于测得的人类数据采集效率优势（快10倍），每一次人类恢复演示被计为 0.1 次机器人恢复演示。“直接人类恢复混合”（Direct human recovery mix）是一种使用匹配数据的协同训练基线。它使用与 EgoRecovery 相同的数据和骨干网络，但去除纠正意图目标、恢复门控头（Recovery Gate Head）及门控调制机制。“仅限机器人恢复”（Robot-only recovery）的相关行用于控制变量，考察在机器人上采集的恢复数据。在图6中使用 Robot recovery (50) 行以及成本匹配的 Robot recovery (80) 参考项作为“仅限机器人恢复”的参照，而非将其作为与其他机器人恢复数据采集算法的直接对比。