文献:Retargeting Matters: General Motion Retargeting for Humanoid Motion Tracking
会议:IEEE International Conference on Robotics and Automation
作者:João Pedro Araújo、Yanjie Ze、Pei Xu、Jiajun Wu、C. Karen Liu
单位:Stanford University
论文地址:https://arxiv.org/abs/2510.02252
项目主页:https://jaraujo98.github.io/retargeting_matters
开源代码:https://github.com/YanjieZe/GMR

1. 文献概述

这项工作的核心观点十分明确:在人形机器人运动模仿中,动作重定向不是一个可以交给强化学习策略“顺便修正”的前处理步骤,而是决定策略能否稳定学习、能否保持动作语义以及能否跨仿真器工作的关键环节。

人类与人形机器人虽然具有相似的身体拓扑,但二者在骨骼长度、关节自由度、关节限位、质量分布、执行器能力和身体外形上存在明显差异。直接复制人体关节旋转,或者仅对人体笛卡尔坐标做统一缩放,容易在机器人参考轨迹中引入脚底滑移、身体悬浮、地面穿透、自碰撞和关节角突跳。强化学习策略随后必须同时满足两类互相冲突的要求:一方面逼近参考动作,另一方面遵守机器人动力学和接触约束。参考轨迹越不合理,策略越依赖奖励塑形、域随机化和反复调参。

论文围绕这一问题提出 General Motion Retargeting(GMR)。GMR 采用人体—机器人关键刚体匹配、静止姿态坐标对齐、非均匀局部缩放以及两阶段差分逆运动学优化,将人体动作转换为机器人根位姿与关节位置序列。作者将 GMR 与 PHC、ProtoMotions 和 Unitree 闭源重定向数据进行对比,并统一使用 BeyondMimic 训练跟踪策略,从而尽量隔离重定向质量本身的影响。

实验表明,GMR 在 21 段 LAFAN1 动作上的策略成功率和跟踪误差均优于另外两种开源方法,整体表现接近 Unitree 闭源数据。论文同时指出,地面穿透、自相交、关节值突跳以及不合适的首帧姿态,是影响运动跟踪策略稳定性的主要数据问题。

2. 论文解决的关键科学问题与技术挑战

2.1 人体与机器人之间的形态差异

人体动作通常由 BVH、SMPL 或 SMPL-X 骨架表示,而目标机器人由 URDF 或 MuJoCo XML 描述。两者并不存在严格的一一对应关系,主要差异包括:

  • 人体关节通常以三维旋转表示,机器人关节多为受限的单自由度转动关节;
  • 人体与机器人上下肢比例、肩宽、髋宽和躯干长度不同;
  • 人体动作允许的局部姿态可能超过机器人关节限位;
  • 机器人的脚、手和躯干形状与人体网格不同,原始接触关系无法直接复制;
  • 人体动作是运动学数据,不一定满足目标机器人的动力学可实现性。

因此,重定向的目标并不是简单复制姿态,而是在目标机器人可行构型空间内,寻找尽可能保持原动作空间语义的运动序列。

2.2 缩放方式会直接改变接触与运动语义

论文认为,现有方法中的大量伪影并非首先来自 IK 求解器,而是来自人体动作在笛卡尔空间中的缩放方式。统一缩放无法同时适配腿长、躯干、手臂和肩宽;按世界坐标轴分别缩放虽然更灵活,但可能扭曲局部身体比例。根节点平移若与四肢目标采用不一致的缩放关系,还会改变脚相对地面的速度,造成脚底滑移。

2.3 重定向优化是非线性、受限且容易落入局部最优

机器人正运动学关于关节角是非线性的,姿态误差位于 S O ( 3 ) SO(3) SO(3) 流形上,同时还要满足关节上下限。若一次性严格匹配所有刚体的位置和姿态,约束之间可能互相冲突,求解器容易停在不自然的局部解中。连续帧分别求解时,不同局部解之间的跳变又可能形成关节速度尖峰。

2.4 如何公平评价重定向质量

只观察重定向动画是否“看起来合理”并不足够。高质量参考动作至少应同时满足:

  1. 下游强化学习策略能够完整跟踪;
  2. 在观测噪声、模型偏差和通信延迟下仍保持稳定;
  3. 机器人动作在全局和根坐标系下都接近参考轨迹;
  4. 动作外观和节奏仍忠实于源人体动作。

作者据此提出三个评价问题:

  • **Q1:**重定向方法是否会影响运动跟踪策略的性能?
  • **Q2:**哪些重定向伪影会显著降低策略性能,甚至使策略无法学习?
  • **Q3:**不同方法在多大程度上保留了源动作的视觉语义?

3. 研究方法与总体技术路线

论文的完整技术路线由四个环节组成:

  1. 从 LAFAN1 中选取步行、转向、跑步、跳跃、舞蹈、武术等 21 段动作;
  2. 分别使用 PHC、ProtoMotions、GMR 和 Unitree 闭源方法获得 Unitree G1 参考动作;
  3. 使用相同的 BeyondMimic 流程为每一段参考动作单独训练运动跟踪策略;
  4. 在 IsaacSim、带域随机化的 IsaacSim 以及 MuJoCo/ROS 环境中测试策略,并通过用户研究评价动作外观保真度。

这一设计的关键在于:训练器、机器人、动作集合和评价指标保持一致,只改变参考轨迹的来源。 BeyondMimic 本身不依赖针对每段动作重新设计奖励,因此实验能够较好地反映重定向质量对策略学习的独立影响。

3.1 感知保真度评价界面

图 1 用户研究界面:受试者比较源人体动作与两段匿名机器人重定向动作

除策略成功率和几何误差外,论文还采用匿名双选用户研究判断机器人动作是否保留源人体动作的外观与节奏。该评价用于防止一种常见误判:参考轨迹可能因为动作幅度被削弱而更容易跟踪,但已经偏离原始动作语义。

4. 对比重定向方法

4.1 PHC 重定向

PHC 方法以 SMPL 人体模型为中间表示。SMPL 根据人体形状参数 β h \boldsymbol\beta_h βh 和姿态参数 θ h \boldsymbol\theta_h θh 生成网格顶点:

v h = f S M P L ( β h , θ h ) . \mathbf v_h=f_{\mathrm{SMPL}}(\boldsymbol\beta_h,\boldsymbol\theta_h). vh=fSMPL(βh,θh).

再通过关节回归矩阵 J \mathbf J J 得到关键关节位置:

j h = J v h . \mathbf j_h=\mathbf J\mathbf v_h. jh=Jvh.

PHC 首先拟合一组机器人对应的 SMPL 形状参数 β r \boldsymbol\beta_r βr,然后根据人体每一帧姿态得到机器人关键点目标:

p t t a r g e t = J f S M P L ( β r , θ t h ) . \mathbf p_t^{\mathrm{target}} =\mathbf J f_{\mathrm{SMPL}}(\boldsymbol\beta_r,\boldsymbol\theta_t^h). pttarget=JfSMPL(βr,θth).

最后优化机器人根平移 p t \mathbf p_t pt、根旋转 R t \mathbf R_t Rt 和关节角 q t \mathbf q_t qt

min ⁡ p t , R t , q t 1 T ∑ t = 1 T ∥ p t t a r g e t − FK ⁡ ( p t , R t , q t ) ∥ 2 2 , \min_{\mathbf p_t,\mathbf R_t,\mathbf q_t} \frac{1}{T}\sum_{t=1}^{T} \left\| \mathbf p_t^{\mathrm{target}} -\operatorname{FK}(\mathbf p_t,\mathbf R_t,\mathbf q_t) \right\|_2^2, pt,Rt,qtminT1t=1T pttargetFK(pt,Rt,qt) 22,

s.t. q − ≤ q t ≤ q + . \text{s.t.}\qquad \mathbf q^-\leq \mathbf q_t\leq \mathbf q^+. s.t.qqtq+.

论文使用的 PHC 实现通过梯度下降处理全序列平均误差:根位姿由 Adam 优化,关节值由 Adadelta 优化,关节限位通过截断实现。优化完成后,再根据机器人所有刚体的最低高度修正根节点高度。

PHC 的问题主要有三点:

  • SMPL 是人体形状模型,难以准确表示与人体比例差异较大的机器人;
  • 优化未显式考虑接触状态,容易出现脚底滑移、悬浮和地面穿透;
  • 全局平均位置误差不能保证每一帧都处于局部可行状态。

4.2 ProtoMotions 重定向

ProtoMotions 使用世界坐标系三个轴上的自定义缩放系数调整人体关键点,再调用 Mink 差分 IK 求解器,最小化人体与机器人关键刚体之间的位置和姿态误差。其高度后处理不是把机器人最低点设为零,而是将机器人最低点对齐到源动作的最低高度。

这种方法计算效率较高,也能处理动态动作,但世界坐标轴尺度并不能直接表达“腿部、躯干、手臂应采用不同比例”的需求。论文在“Run (stop & go)”动作中观察到双腿发生自相交,最终显著降低了策略成功率。

4.3 Unitree 闭源数据

Unitree 发布的 LAFAN1-G1 重定向数据被 BeyondMimic、VideoMimic 等工作采用。论文无法获得其具体重定向流程,因此只把它作为高质量闭源上限,用于判断开源方法与工业数据之间的差距。

5. GMR:General Motion Retargeting

图 2 General Motion Retargeting(GMR)五阶段流程

GMR 将一帧人体姿态转换为机器人广义坐标

q = [ p r o o t R r o o t q j o i n t ] , \mathbf q= \begin{bmatrix} \mathbf p_{\mathrm{root}} & \mathbf R_{\mathrm{root}} & \mathbf q_{\mathrm{joint}} \end{bmatrix}, q=[prootRrootqjoint],

其中包含浮动基座平移、基座旋转和机器人关节位置。算法共分为五个步骤。

5.1 步骤一:人体—机器人关键刚体匹配

首先从人体骨架与机器人模型中选取具有相同语义的关键刚体,并构造映射集合

M = { ( i , j ) } , \mathcal M=\{(i,j)\}, M={(i,j)},

其中 i i i 表示人体刚体, j j j 表示机器人刚体。典型对应关系包括骨盆—机器人根节点、躯干—torso、头部—head、大腿—thigh、小腿—calf、脚—ankle/foot、上臂—upper arm、前臂—forearm、手—hand。

映射不要求两种骨架拓扑完全相同。用户还可分别为位置误差和姿态误差设置权重,以突出脚、手和躯干等关键部位。

5.2 步骤二:静止姿态笛卡尔坐标对齐

人体骨架和机器人即使都处于“零姿态”,各刚体局部坐标轴的定义也可能不同。GMR 在求解前对人体刚体姿态增加固定旋转偏置,使人体和机器人在静止姿态下具有一致的局部朝向;必要时也可为部分刚体增加位置偏置。

这一处理能够减少由坐标系定义差异引起的脚尖内扣、手臂扭转等系统性误差。它改变的是参考坐标系,不是逐帧手工修正关节值。

5.3 步骤三:非均匀局部缩放

GMR 的主要设计落在缩放环节。设源人体骨架高度为 h h h,配置缩放参数时采用的参考人体高度为 h r e f h_{\mathrm{ref}} href,人体刚体 b b b 的局部缩放系数为 s b s_b sb,根节点缩放系数为 s r o o t s_{\mathrm{root}} sroot。目标位置定义为:

p b t a r g e t = h h r e f s b ( p j s o u r c e − p r o o t s o u r c e ) + h h r e f s r o o t p r o o t s o u r c e . (2) \mathbf p_b^{\mathrm{target}} =\frac{h}{h_{\mathrm{ref}}} s_b \left( \mathbf p_j^{\mathrm{source}}- \mathbf p_{\mathrm{root}}^{\mathrm{source}} \right) + \frac{h}{h_{\mathrm{ref}}} s_{\mathrm{root}} \mathbf p_{\mathrm{root}}^{\mathrm{source}}. \tag{2} pbtarget=hrefhsb(pjsourceprootsource)+hrefhsrootprootsource.(2)

当目标刚体就是根节点时,上式化为:

p r o o t t a r g e t = h h r e f s r o o t p r o o t s o u r c e . (3) \mathbf p_{\mathrm{root}}^{\mathrm{target}} =\frac{h}{h_{\mathrm{ref}}} s_{\mathrm{root}} \mathbf p_{\mathrm{root}}^{\mathrm{source}}. \tag{3} proottarget=hrefhsrootprootsource.(3)

原文式(2)在局部源位置处使用了下标 j j j,结合上下文应理解为与目标刚体 b b b 相匹配的源人体关键刚体位置;这不影响缩放机制本身。

这两个式子包含两个层次的缩放:

  • h / h r e f h/h_{\mathrm{ref}} h/href 用于消除不同人体身高带来的整体尺度变化;
  • s b s_b sb 用于分别适配机器人腿长、手臂、躯干和肩宽等局部比例。

式(2)先计算人体刚体相对根节点的位置,再施加局部比例;根节点的全局平移则始终采用统一的 s r o o t s_{\mathrm{root}} sroot。这种分离十分关键:局部肢体可以非均匀缩放,但根节点轨迹必须保持统一的时空尺度,否则脚与基座之间会产生不一致的水平速度,直接表现为脚底滑移。

5.4 步骤四:只用旋转和末端位置完成第一阶段 IK

GMR 没有一开始就强制所有关键刚体同时匹配位置和姿态,而是先匹配全部关键刚体的姿态,并只匹配手、脚等末端执行器的位置:

min ⁡ q ∑ ( i , j ) ∈ M ( w 1 R ) i , j ∥ R i h ⊖ R j ( q ) ∥ 2 2 + ∑ ( i , j ) ∈ M e e ( w 1 p ) i , j ∥ p i t a r g e t − p j ( q ) ∥ 2 2 s.t. q − ≤ q ≤ q + . (4) \begin{aligned} \min_{\mathbf q}\quad &\sum_{(i,j)\in\mathcal M} (w_1^R)_{i,j} \left\| R_i^h\ominus R_j(\mathbf q) \right\|_2^2 \\ &+\sum_{(i,j)\in\mathcal M_{ee}} (w_1^p)_{i,j} \left\| \mathbf p_i^{\mathrm{target}} -\mathbf p_j(\mathbf q) \right\|_2^2 \\ \text{s.t.}\quad &\mathbf q^-\leq\mathbf q\leq\mathbf q^+. \end{aligned} \tag{4} qmins.t.(i,j)M(w1R)i,j RihRj(q) 22+(i,j)Mee(w1p)i,j pitargetpj(q) 22qqq+.(4)

其中:

  • R i h R_i^h Rih 是人体刚体 i i i 的目标姿态;
  • R j ( q ) R_j(\mathbf q) Rj(q) p j ( q ) \mathbf p_j(\mathbf q) pj(q) 是机器人正运动学得到的姿态与位置;
  • M e e \mathcal M_{ee} Mee 是手和脚等末端执行器映射集合;
  • ( w 1 R ) i , j (w_1^R)_{i,j} (w1R)i,j ( w 1 p ) i , j (w_1^p)_{i,j} (w1p)i,j 是第一阶段的姿态和位置权重。

R i h ⊖ R j R_i^h\ominus R_j RihRj 表示相对旋转对应的李代数误差向量。论文正文将其描述为相对旋转的指数映射表示;从 S O ( 3 ) SO(3) SO(3) 误差到 s o ( 3 ) \mathfrak{so}(3) so(3) 向量的标准实现通常应理解为对相对旋转取 Log ⁡ \operatorname{Log} Log 映射:

R i h ⊖ R j ≈ Log ⁡  ⁣ ( ( R i h ) − 1 R j ) ∨ . R_i^h\ominus R_j \approx \operatorname{Log}\!\left((R_i^h)^{-1}R_j\right)^{\vee}. RihRjLog((Rih)1Rj).

根节点平移初始化为式(3)的缩放结果,根节点偏航角初始化为人体根节点偏航角。作者指出,机器人原始关节限位有时还需进一步收紧,以避免数学上可行但明显不符合人体运动习惯的姿态。

第一阶段只固定末端位置,给肩、髋和躯干保留一定的内部调整空间,能够降低过约束程度,并为第二阶段提供更稳定的初值。

5.5 差分 IK 求解

GMR 使用 Mink 差分 IK。求解器不是直接搜索最终关节值,而是在当前构型附近计算能够降低误差的广义速度 q ˙ \dot{\mathbf q} q˙

min ⁡ q ˙ ∥ e ( q ) + J ( q ) q ˙ ∥ W 2 s.t. q − ≤ q + q ˙ Δ t ≤ q + . (5) \begin{aligned} \min_{\dot{\mathbf q}}\quad &\left\| \mathbf e(\mathbf q) +\mathbf J(\mathbf q)\dot{\mathbf q} \right\|_{\mathbf W}^{2} \\ \text{s.t.}\quad &\mathbf q^- \leq \mathbf q+\dot{\mathbf q}\Delta t \leq \mathbf q^+. \end{aligned} \tag{5} q˙mins.t.e(q)+J(q)q˙W2qq+q˙Δtq+.(5)

这里 e ( q ) \mathbf e(\mathbf q) e(q) 是式(4)中的任务误差, J = ∂ e / ∂ q \mathbf J=\partial\mathbf e/\partial\mathbf q J=e/q 是任务雅可比, W \mathbf W W 由各位置和姿态权重构成。 Δ t \Delta t Δt 是差分 IK 的积分步长,并不一定等于动作数据相邻帧的真实时间间隔。

每个阶段最多迭代 10 次;当目标函数变化低于 0.001 时提前停止。该设置兼顾了计算速度和求解精度,也使 GMR 可以用于实时重定向。

5.6 步骤五:全关键刚体位置与姿态精修

第一阶段得到可行初值后,第二阶段同时匹配所有关键刚体的位置和姿态:

min ⁡ q ∑ ( i , j ) ∈ M ( w 2 R ) i , j ∥ R i h ⊖ R j ( q ) ∥ 2 2 + ( w 2 p ) i , j ∥ p i t a r g e t − p j ( q ) ∥ 2 2 s.t. q − ≤ q ≤ q + . (6) \begin{aligned} \min_{\mathbf q}\quad \sum_{(i,j)\in\mathcal M} & (w_2^R)_{i,j} \left\| R_i^h\ominus R_j(\mathbf q) \right\|_2^2 \\ + & (w_2^p)_{i,j} \left\| \mathbf p_i^{\mathrm{target}} -\mathbf p_j(\mathbf q) \right\|_2^2 \\ \text{s.t.}\quad &\mathbf q^-\leq\mathbf q\leq\mathbf q^+. \end{aligned} \tag{6} qmin(i,j)M+s.t.(w2R)i,j RihRj(q) 22(w2p)i,j pitargetpj(q) 22qqq+.(6)

第二阶段使用独立的权重 ( w 2 R ) i , j (w_2^R)_{i,j} (w2R)i,j ( w 2 p ) i , j (w_2^p)_{i,j} (w2p)i,j。其目的不是重新寻找一个完全不同的姿态,而是在第一阶段获得的稳定构型附近,恢复躯干、膝、肘等中间刚体的位置细节。

5.7 动作序列处理与高度后处理

对于动作序列,GMR 逐帧执行两阶段 IK,并将上一帧的机器人构型作为下一帧初值。这种 warm start 能增强时间连续性并降低迭代次数,但不能从理论上完全消除局部最优切换,因此论文中仍出现了极少量腰部关节突跳。

全部帧处理完成后,算法通过正运动学计算整个序列中机器人所有刚体的最低高度,并从根节点全局高度中减去该最小值,以修正整体悬浮或地面穿透。

需要强调的是,GMR 本质上仍是运动学重定向方法。它没有直接求解接触力、质心动力学或执行器力矩,也没有显式进行轨迹优化意义上的动力学可行性约束。其优势来自更合理的尺度映射、受限 IK 和下游跟踪可学习性,而不是完整的物理优化。

6. 数据处理与实验设计

6.1 动作数据

作者从 LAFAN1 中选取 21 段动作,长度从 5.5 s 到 130.5 s,覆盖:

  • 普通步行、军姿步行和屈膝步行;
  • 原地转向、跑步、走停结合;
  • 单脚跳、连续跳、跳跃旋转和跳房子;
  • 多段长时舞蹈;
  • 武术和综合体育动作。

论文排除了爬行、从地面起身等包含复杂身体接触的动作。侧手翻作为例外被保留,因为动作过程中通常是脚或手接触地面,而不是多类接触同时存在。

所有动作都重定向到 Unitree G1。GMR 可以直接读取 LAFAN1 的 BVH 数据;PHC 和 ProtoMotions 需要 SMPL/SMPL-X,因此作者先拟合人体形状参数,再复制匹配关节的三维旋转并估计根平移。实验发现 SMPL-X 对 LAFAN1 骨架的拟合优于 SMPL,因此 ProtoMotions 使用 SMPL-X 作为输入。

6.2 PHC 高度修正

PHC 自带的脚部穿透后处理在部分序列上会造成超过 30 cm 的悬浮。作者重新计算每一帧的机器人最低刚体高度,并使用全序列最低高度均值修正根节点。即使采用这一额外修正,PHC 在部分舞蹈动作中仍出现严重地面穿透。

6.3 跟踪策略训练

每一种重定向方法、每一段动作都单独训练一套 BeyondMimic 运动跟踪策略,仿真器为 IsaacSim。这样可以判断“某段参考动作能否被策略完整学会”,而不是把多动作策略容量不足混入评价结果。

6.4 三种测试环境

测试设置 测试次数/策略 主要扰动 作用
sim 100 关闭域随机化 验证训练仿真器内的基本可学习性
sim-dr 4096 观测噪声、模型参数偏差、控制延迟等 评价策略对域偏移的统计鲁棒性
sim2sim 100 MuJoCo、ROS 时序与同步误差、状态估计噪声 模拟真实部署软件栈与跨仿真器偏差

每次测试均从机器人默认姿态开始,直到机器人跌倒或参考动作结束。sim2sim 使用 BeyondMimic 的 ROS 部署包和 MuJoCo 节点,控制器无法读取仿真器真值根位姿,也没有针对 MuJoCo 重新拟合模型参数。

论文没有报告真实 G1 硬件上的系统性实验,因此 sim2sim 结果只能证明跨引擎和部署链路鲁棒性,不能等同于完整 Sim2Real 结论。

6.5 成功判据与跟踪误差

一次 rollout 只有在策略完整执行到参考动作结束,且机器人锚定刚体高度与姿态偏差始终未超过终止阈值时才算成功。成功率定义为:

Success Rate = N s u c c e s s N r o l l o u t × 100 % . \text{Success Rate} =\frac{N_{\mathrm{success}}}{N_{\mathrm{rollout}}}\times100\%. Success Rate=NrolloutNsuccess×100%.

论文还使用三类误差:

  • E g - m p b p e E_{\mathrm{g\text{-}mpbpe}} Eg-mpbpe:世界坐标系下所有刚体的平均位置误差,单位 mm;
  • E m p b p e E_{\mathrm{mpbpe}} Empbpe:去除根节点平移后,相对根坐标系下的平均刚体位置误差,单位 mm;
  • E m p j p e E_{\mathrm{mpjpe}} Empjpe:关节旋转的平均角误差,单位为 10 − 3 10^{-3} 103 rad。

E g - m p b p e E_{\mathrm{g\text{-}mpbpe}} Eg-mpbpe 同时反映基座全局轨迹和局部姿态; E m p b p e E_{\mathrm{mpbpe}} Empbpe 更关注身体内部构型;角误差则反映各关节朝向是否跟随参考。

6.6 用户研究

用户研究界面如图 1 所示。20 名参与者参加实验。每道题展示一段 5 s 的 SMPL-X 源动作,以及两段顺序随机的机器人动作:一段由 GMR 生成,另一段来自 Unitree、PHC 或 ProtoMotions。参与者选择更接近源动作的一段,也可以选择“无法区分”。

实验从 15 段动作中随机截取片段,每位用户完成 45 次比较,即 GMR 分别与三种对比方法在每段动作上进行一次盲测。

7. 实验结果

7.1 21 段动作的策略成功率

动作 时长/s sim sim-dr sim2sim
PHC GMR PM U PHC GMR PM U PHC GMR PM U
Walk 1 33 100 100 100 100 100 100 100 100 100 100 100 100
Walk 2 5.5 23 100 100 100 53.54 100 99.98 100 100* 100* 100* 100*
Turn 1 12.3 93 100 100 100 87.18 99.98 99.95 100 100* 100* 99* 100*
Turn 2 12.3 100 100 100 100 99.95 99.98 100 99.98 99 100 100 99
Walk (old) 33 100 100 100 100 100 100 100 100 100 100 100 100
Walk (army) 13 100 100 100 100 99.85 98.63 99.95 99.95 100 100 99 100
Hop 13 95 100 100 100 92.97 100 100 100 100 100 100 100
Walk (knees) 19.58 100 100 100 100 99.98 100 100 100 100 100 100 100
Dance 1 118 0 100 100 99 0 99.46 99.24 99.95 0 100 100 100
Dance 2 130.5 0 100 100 100 0.02 99.90 99.88 99.98 0 100 100 100
Dance 3 120 100 100 100 100 100 100 99.95 100 99 100 100 100
Dance 4 20 100 100 100 100 100 100 100 100 99 100 100 100
Dance 5 68.4 100 96 100 100 100 92.75 99.98 100 100 51 100 100
Run (slow) 50 100 100 100 100 99.19 99.88 99.95 99.98 100 100 100 100
Run 11 100 100 100 100 99.98 100 99.95 100 100 100 100 100
Run (stop & go) 37 17 98 20 100 20.46 91.24 40.26 99.83 74 100 26 100
Hop around 18 100 100 100 100 100 100 100 100 100 100 100 100
Hopscotch 10 100 100 100 100 100 100 100 99.98 100 100 100 100
Jump and rotate 21 100 100 100 100 99.98 100 99.90 100 99 100 100 99
Kung fu 8.6 100 100 100 100 100 99.95 100 100 100 100 100 100
Various sports 42.58 100 100 100 100 99.98 99.98 99.95 100 100 100 100 99
表 1 不同重定向方法在三种环境中的策略成功率(%)

注:PM 表示 ProtoMotions,U 表示 Unitree;带星号的数据对应论文第 V-D 节中调整到更安全起始帧后的结果。

在 21 段动作中,有 14 段动作对所有方法都较容易,其余 7 段出现明显的方法差异。Unitree 数据几乎在所有测试中保持满成功率;GMR 紧随其后;ProtoMotions 在“Run (stop & go)”上明显下降;PHC 在两段长舞蹈和走停动作上失败严重。

按动作等权对表 1 进行算术平均,可得到更直观的总体结果。该均值由表中数据计算,并非论文单独报告的加权指标:

方法 sim 平均成功率 sim-dr 平均成功率 sim2sim 平均成功率
PHC 82.29% 83.48% 89.05%
GMR 99.71% 99.13% 97.67%
ProtoMotions 96.19% 97.09% 96.38%
Unitree 99.95% 99.98% 99.86%

GMR 与 Unitree 的差距主要来自“Dance 5”在 sim2sim 中的 51% 成功率。若只看多数常规动作,两者几乎没有成功率差异。

7.2 跟踪误差

统计量 $E_{g-mpbpe}$/mm $E_{mpbpe}$/mm $E_{mpjpe}/10^{-3}$ rad
PHC GMR PM U PHC GMR PM U PHC GMR PM U
Min 71.8 59.9 66.0 51.1 20.9 18.1 24.1 18.2 569.5 362.0 499.0 355.5
Median 111.9 91.2 101.9 73.4 29.9 27.6 30.4 23.1 739.8 546.0 599.7 467.2
Mean 247.8 104.1 139.7 77.2 40.2 28.1 33.2 23.2 778.5 561.7 641.8 483.0
Max 1062.3 200.0 915.6 131.4 134.4 48.0 107.9 28.9 1336.1 1044.8 1397.9 678.5
表 2 sim 环境下 21 段动作的跟踪误差统计,数值越低越好

成功率只能说明机器人没有提前跌倒,不能说明动作跟得准。表 2 显示:

  • GMR 的平均全局刚体误差为 104.1 mm,明显低于 ProtoMotions 的 139.7 mm 和 PHC 的 247.8 mm;
  • GMR 的平均根相对位置误差为 28.1 mm,优于另外两种开源方法;
  • GMR 的平均关节角误差为 561.7 × 10 − 3 561.7\times10^{-3} 561.7×103 rad,同样是开源方法中最低;
  • Unitree 在均值和最大误差上仍然最好,说明其参考动作具有更高的一致性和可跟踪性。

PHC 的最大全局位置误差超过 1 m,ProtoMotions 也达到 915.6 mm。这些极值对应的并不是普通跟踪偏差,而是重定向数据中存在严重几何伪影,策略无法同时满足参考与物理约束。

7.3 重定向伪影及其影响

图 3 低成功率参考动作中的三类典型伪影:地面穿透、自相交和关节角突跳

论文将低成功率直接对应到三类数据问题:

(1)地面穿透

PHC 的“Dance 1”和“Dance 2”存在明显穿地,其中一处穿透深度达到约 60 cm。此时参考动作要求机器人身体进入地面,而仿真接触约束会产生强烈反作用力,策略无法同时跟踪参考和保持稳定。两段动作在 sim 与 sim2sim 中均接近 0% 成功率。

(2)身体自相交

ProtoMotions 的“Run (stop & go)”中两腿互相穿过。策略若严格跟踪参考,会触发自碰撞或要求不可能的关节构型;若避开自碰撞,又会增大跟踪误差。该动作的 ProtoMotions 策略在 sim2sim 中仅有 26% 成功率。

(3)关节角突跳

GMR 的“Dance 5”在约 10 s 片段内出现多次腰部 roll 突跳,部分值快速接近关节限位。IsaacSim 内策略仍有 96% 成功率,但 sim2sim 下降到 51%,说明不连续参考速度对时延、状态估计误差和仿真器动力学差异非常敏感。

该问题来自逐帧非线性优化在不同局部解之间切换。作者在全部实验中使用同一套权重,没有为特定动作单独调参;异常片段占整个数据集不到 2%,但仍说明两阶段 IK 不能保证全局时间连续性。

由此可得到一个比“检查脚滑”更完整的重定向数据质检清单:

  • 机器人所有刚体是否始终位于合理地面高度;
  • 左右腿、手臂与躯干之间是否发生自相交;
  • 关节角、角速度和角加速度是否存在尖峰;
  • 支撑脚接触期间的水平速度是否接近零;
  • 根节点速度是否与四肢局部速度尺度一致;
  • 关节值是否频繁贴近限位。

7.4 源动作外观保真度

图 4 20 名参与者对 GMR 与其他重定向结果的动作保真度比较

用户研究结果如下:

对比对象 更偏好 GMR 无法区分 更偏好对比方法
Unitree 25% 37% 38%
PHC 74% 8% 18%
ProtoMotions 63% 13% 23%

受试者明显认为 GMR 比 PHC 和 ProtoMotions 更接近源人体动作。Unitree 获得的偏好比例略高于 GMR,但 37% 的回答认为二者无法区分,说明 GMR 在视觉语义上已经接近闭源数据。

这一结果非常重要:某种重定向方法可能通过降低动作幅度、减小身体摆动或改变节奏,使策略更容易保持平衡,但这并不代表它忠实完成了原动作。论文将策略成功率、几何误差和人类感知评价结合,避免把“容易跟踪”误当成“重定向质量高”。

7.5 首帧姿态的影响

动作 起始帧 PHC GMR PM U
Walk 2 0 100 64 100 100
7 100 100 100 100
Turn 1 0 14 100 86 47
49 100 100 99 100
表 3 不同参考起始帧下的 sim2sim 成功率(%)

同一套策略只改变参考起始帧,成功率就可能从 14% 或 47% 提升到接近 100%。原因是机器人测试时从默认站立姿态启动,而参考首帧可能已经处于转向、单脚支撑或快速运动中。策略在第一控制周期内无法瞬间到达该构型,容易直接触发跌倒终止。

因此,动作数据集不仅要检查中间帧,还应保证:

  • 首帧接近机器人可稳定到达的站立或准备姿态;
  • 正式动作前保留短暂过渡段;
  • 末帧处于稳定姿态,便于控制器安全退出;
  • 训练与部署采用一致的动作相位初始化方式。

8. 主要创新点与学术贡献

8.1 将重定向质量作为独立变量进行系统研究

以往工作通常把重定向、奖励函数、域随机化和策略网络一起调整,难以判断性能提升来自哪个环节。本文固定 BeyondMimic 训练流程,不为不同重定向方法重新设计奖励,使实验更接近受控变量研究。论文由此证明:即便现代强化学习可以跟踪大量复杂动作,参考轨迹中的几何和时间伪影仍会显著降低策略鲁棒性。

8.2 提出人体高度归一化的非均匀局部缩放

GMR 不依赖将机器人拟合为 SMPL 人体,也不只使用世界坐标轴统一尺度,而是允许不同关键刚体使用不同局部比例,同时保持根节点平移的统一尺度。该设计直接针对人体—机器人比例差异,并从机制上减少脚滑和动作形变。

8.3 提出由宽松到严格的两阶段受限 IK

第一阶段只约束全部刚体姿态和末端位置,先找到整体结构合理的机器人构型;第二阶段再加入所有关键刚体位置约束进行精修。相比一次性匹配全部任务,两阶段方法降低了初始过约束和局部最优风险。

8.4 建立“可跟踪性—准确性—感知保真度”联合评价

论文没有只报告策略是否跌倒,而是同时给出三种仿真设置的成功率、全局与局部跟踪误差、关节角误差以及用户盲测结果。这套评价框架区分了三个容易混淆的概念:

  • 动作是否能被策略完整执行;
  • 机器人是否准确跟随参考;
  • 参考是否仍然像原始人体动作。

8.5 提供可复用的开源工具

GMR 代码公开了关键刚体映射、机器人配置、Mink IK 接口、BVH/SMPL-X 等数据处理流程,可用于离线动作数据生成,也可作为实时遥操作前端。论文实验只验证了 Unitree G1,但软件框架本身不依赖特定机器人拓扑。

9. 方法优势、局限与需要谨慎理解的结论

9.1 方法优势

  1. 结构简单且可解释。 每一步都对应明确的几何问题,不需要预先收集人体—机器人配对数据。
  2. 对机器人拓扑要求低。 只需定义关键刚体映射和权重,无须把机器人强行拟合为人体网格。
  3. 计算效率较高。 差分 IK 每阶段最多迭代 10 次,适合离线批处理和实时应用。
  4. 下游效果明确。 GMR 不仅视觉更自然,而且在统一 RL 跟踪实验中表现更稳定。
  5. 对开源社区价值较高。 结果接近 Unitree 闭源数据,为人形机器人模仿学习提供了可复现的数据前端。

9.2 论文局限

  1. 数据来源单一。 21 段动作全部来自 LAFAN1,尚未在 AMASS、视频人体姿态恢复数据或不同采集噪声条件下系统验证。
  2. 机器人型号单一。 论文实验只使用 Unitree G1,无法直接证明同一组默认参数适用于不同自由度和身体比例的机器人。
  3. 未覆盖复杂接触。 研究排除了爬行、起身、物体操作和多人交互,GMR 对手—物体、身体—环境接触的保持能力仍未得到验证。
  4. 没有显式动力学约束。 IK 只保证几何误差和关节限位,不保证接触力、力矩、速度和加速度满足真实硬件能力。
  5. 时间连续性没有严格保证。 上一帧 warm start 能减少跳变,但“Dance 5”说明逐帧局部优化仍可能产生关节突跳。
  6. 缺少真实机器人系统性测试。 论文主要结果来自 IsaacSim 与 MuJoCo/ROS,尚不能直接量化真实 G1 上的成功率和安全性。
  7. 配置仍需人工设计。 关键刚体映射、位置/姿态权重、局部缩放系数和收紧后的关节限位都需要机器人专家设定。

9.3 论文没有声称解决的问题

GMR 不是强化学习算法,不替代 PPO、AMP 或 BeyondMimic;它也不是 WBC、MPC 或动力学轨迹优化器。其输出是更适合策略学习的参考根位姿和关节序列。下游策略仍需负责平衡、接触力调节、执行器控制以及 Sim2Real 鲁棒性。

10. 对人形机器人 PPO、AMP 与动作模仿项目的启示

对于采用“人体动作数据 → GMR → PPO/AMP → Sim2Real”技术链的项目,这篇论文给出几条直接可落地的结论。

10.1 训练前先做参考数据质检

不应只在 MuJoCo 或 Isaac Sim 中播放动作观察外观,还应离线计算:

  • 支撑脚水平滑移距离与速度;
  • 所有刚体的最小地面间距;
  • 自碰撞距离或碰撞对数量;
  • 关节角、速度、加速度和 jerk 的峰值;
  • 关节限位裕量;
  • 根节点速度与脚端速度的一致性;
  • 首帧和末帧的静态稳定性。

这些指标异常时,增加 PPO 奖励项往往只能掩盖问题,无法恢复源动作的真实语义。

10.2 AMP 不会自动修复错误参考

AMP 判别器学习的是训练动作数据的分布。如果重定向数据本身含有穿地、自相交或关节跳变,判别器可能把这些特征也当成“专家风格”。物理仿真阻止策略完全复现错误动作后,策略奖励会长期冲突,表现为训练不稳定、风格奖励高但速度跟踪差,或仿真内可用而实机失稳。

10.3 首尾过渡应作为数据集的一部分

建议在正式动作前增加 0.5–2 s 的站立到动作首帧过渡,在动作结束后增加稳定收势段。对于舞蹈、踢腿和跳跃动作,还应根据动作相位设置 curriculum,而不是让所有 rollout 都从人体原始第 0 帧开始。

10.4 域随机化不能替代参考轨迹可行性

域随机化适合处理质量、摩擦、时延和观测噪声等模型偏差,但不能从根本上解决 60 cm 穿地或双腿互穿。参考数据必须先通过几何与时间连续性检查,再使用域随机化提升策略鲁棒性。

11. 开源复现要点

截至本文档整理时,GMR 仓库提供 Python 实现,官方说明主要在 Ubuntu 20.04/22.04 与 Python 3.10 环境下测试。基础安装流程为:

git clone https://github.com/YanjieZe/GMR.git
cd GMR

conda create -n gmr python=3.10 -y
conda activate gmr
pip install -e .

若使用 SMPL-X,需要将人体模型文件放置到 assets/body_models/smplx/。仓库中的人体帧数据通常表示为“人体刚体名称 → 全局三维平移与全局旋转”,输出机器人帧则由根节点平移、根节点旋转和关节位置组成。

复现论文结果时应固定以下因素:

  • 使用同一批 LAFAN1 动作与帧率;
  • 对 PHC 和 ProtoMotions 使用相同的 BVH→SMPL/SMPL-X 转换;
  • 使用同一版本的 Unitree G1 模型和关节限位;
  • 每种参考动作分别训练策略;
  • 保持 BeyondMimic 奖励和域随机化配置不变;
  • 区分原始第 0 帧结果与论文带星号的安全起始帧结果;
  • 同时报告成功率和误差,不能只展示最佳视频。

12. 总结

《Retargeting Matters》证明了一个容易被忽视但对人形机器人运动学习十分关键的事实:参考动作数据的质量会决定强化学习问题本身的难度。 当重定向轨迹包含穿地、自碰撞、脚滑或关节突跳时,策略需要在“模仿错误参考”和“遵守物理规律”之间妥协,奖励塑形与域随机化只能缓解,不能真正消除矛盾。

GMR 的技术核心不是复杂网络,而是对运动学问题进行合理拆解:先完成关键刚体语义映射和静止姿态对齐,再通过人体高度归一化的局部非均匀缩放处理形态差异,最后利用两阶段差分 IK 从宽松约束逐步过渡到全身精确匹配。实验显示,这套方法在开源方案中取得了最好的策略成功率、跟踪精度和视觉保真度,并接近 Unitree 闭源数据。

这项工作的研究价值不仅在于提供一个新的重定向器,更在于建立了一套可用于后续人形机器人数据管线的判断标准:参考动作必须同时满足几何合理、时间连续、策略可跟踪和语义保真。对 PPO、AMP、遥操作和通用人形运动控制而言,优先修复数据前端,往往比继续堆叠奖励项更有效。


Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐