1. 引言

近年来,具身智能正悄然成为科技领域的新风口。从最初试探性的机器人走路跌跌撞撞,到如今能在春晚舞台上翩翩起舞、在高速奔跑中展现灵敏反应,机器人运动控制技术正以前所未有的速度进步。构建一个具备类人认知与运动能力的AGI机器人,不仅是许多科研工作者的梦想,更是工业界迈向智能制造的重要突破。随着量产流程不断成熟以及硬件成本的持续降低(价格已降至万元级别左右),机器人从实验室逐渐走向实际应用的舞台。本文基于《宇树开源整理(1)-概述》的系列文章,结合当前网络上的前沿研究信息,全面解析宇树开源平台的技术体系,并对相关算法和实验细节做进一步探讨。

2. 开源仓库全景解析

宇树开源平台目前涵盖了超30个不同项目,其中以下16个仓库在GitHub上受到了广泛关注:

排名仓库名称仓库介绍

1

unitree_rl_gym基于NVIDIA Isaac强化学习示例,支持Go2、H1、G1等多个型号机器人。
2unitree_rosROS仿真包,内含所有Unitree系列机器人的URDF文件,并提供详细的物理参数。
3avp_teleoperate利用Apple Vision Pro平台实现远程操控Unitree G1和H1_2机器人。
4unitree_guide结合《四足机器人控制算法 —— 建模、控制与实践》一书的实例,实现控制算法示范。
5unitree_legged_sdk面向Aliengo、A1、Go1、B1等机器人开发真实环境应用的SDK。
6unitree_mujoco以Mujoco为模拟器,支持C++/Python接口,集成地形生成器,用于仿真与真实系统之间的迁移。
7point_lio_unilidar针对SLAM实现的Point-LIO激光惯性里程计,适用于Unitree L1激光雷达。
8unitree_sdk2为Go2、B2、H1、G1等机器人在真实环境开发提供SDK工具。
9unitree_IL_lerobot以G1双臂作为数据采集及测试平台,基于改进的LeRobot框架实现。
10unitree_ros2在ROS2环境下开发Go2与B2机器人,接口与unitree_sdk2保持一致。
11unitree_sdk2_pythonunitree_sdk2的Python接口。
12unitree_model提供多种格式的机器人3D建模文件(包括xacro和URDF)。
13kinect_teleoperate利用Azure Kinect DK相机,实现对Unitree H1机器人的远程操控。
14unitree_actuator_sdk针对机器人执行器(电机等)的专用SDK。
15unilidar_sdk2针对Unitree L2激光雷达开发的SDKk。
16z1_ros针对Z1机器人的ROS仿真包。

各仓库从底层物理建模到高层控制策略,构成了一个完整、开放的机器人研发生态。这样的开放平台不仅加速了学术研究的进程,也大大降低了机器人技术应用的门槛。

3. 人形机器人平台与硬件构成

目前市面上最具代表性的人形机器人包括Unitree H1、H1-2和G1,它们在感知模块、处理器配置以及自由度设计上各有侧重:

机器人名称感知传感器控制计算单元开发计算单元总自由度(单腿/单手臂)
独树H13D激光雷达(MID-360) + 深度相机(D435)英特尔Core i5-1235U英特尔 Core i7-1255U/1265U5/4
Unitree H1-23D激光雷达(MID-360) + 深度相机(D435)英特尔Core i5-1235U英特尔 Core i7-1255U/1265U6/7
Unitree G13D激光雷达(MID-360) + 深度相机(D435i)——杰森·奥林NX6/5

注意: 此处"运控计算单元"指机器人内部专用的运动控制程序,不对外开放;而"开发计算单元"则提供了二次开发接口,为算法升级和功能扩展提供硬件支持。 !机器人硬件示意图 此外,当前硬件平台不断追求轻量化与高性能计算的平衡,这不仅使得机器人运动更加敏捷准确,同时也为多传感器融合和实时决策提供了保障。诸如Jetson Orin NX这样的嵌入式计算平台已成为智能机器人控制的重要加速器。

4. 强化学习基础与实现原理

4.1 核心要素综述

强化学习(Reinforcement Learning, RL)依靠智能体(agent)在与环境不断交互的过程中,通过奖惩反馈逐步优化行为策略,以达到长期收益最大化。其基本框架包括:

  • 环境(Environment): 如今主流的机器人仿真平台包括英伟达的Isaac Gym(现升级为Isaac Lab)。
  • 动作(Action): 机器人控制目标,通过传递给PD控制器实现关节位置或速度的精密调整。 奖励函数(Reward): 用于量化动作效果的代码模块,每个细分部分(如速度、角速度、加速度、碰撞等)都设置了相应惩罚或奖励。

在物理模拟与真实部署中,奖励函数及其各项指标至关重要。例如,以下部分代码展示了激励基准和惩罚项的计算过程:

函数名功能描述计算公式
_reward_lin_vel_z惩罚 z 轴的基础线性速度torch.square(self.base_lin_vel[:, 2])
_reward_ang_vel_xy惩罚 xy 轴的基础角速度torch.sum(torch.square(self.base_ang_vel[:, :2]), dim=1)
_reward_orientation惩罚非水平的基础朝向torch.sum(torch.square(self.projected_gravity[:, :2]), dim=1)
_reward_base_height惩罚基础高度偏离目标值torch.square(base_height - self.cfg.rewards.base_height_target)
其中base_height = self.root_states[:, 2]
_reward_torques惩罚施加的扭矩torch.sum(torch.square(self.torques), dim=1)
_reward_dof_vel惩罚关节自由度的速度torch.sum(torch.square(self.dof_vel), dim=1)
_reward_dof_acc惩罚关节自由度的加速度torch.sum(torch.square((self.last_dof_vel - self.dof_vel) / self.dt), dim=1)
_reward_action_rate惩罚动作的变化torch.sum(torch.square(self.last_actions - self.actions), dim=1)
_reward_collision惩罚选定身体部位的碰撞torch.sum(1.*(torch.norm(self.contact_forces[:, self.penalised_contact_indices, :], dim=-1) > 0.1), dim=1)
_reward_termination终端奖励 / 惩罚self.reset_buf * ~self.time_out_buf
_reward_dof_pos_limits惩罚关节自由度位置接近极限值torch.sum(out_of_limits, dim=1)
其中out_of_limits = -(self.dof_pos - self.dof_pos_limits[:, 0]).clip(max=0.) + (self.dof_pos - self.dof_pos_limits[:, 1]).clip(min=0.)
_reward_dof_vel_limits惩罚关节自由度速度接近极限值torch.sum((torch.abs(self.dof_vel) - self.dof_vel_limits * self.cfg.rewards.soft_dof_vel_limit).clip(min=0., max=1.), dim=1)
_reward_torque_limits惩罚扭矩接近极限值torch.sum((torch.abs(self.torques) - self.torque_limits * self.cfg.rewards.soft_torque_limit).clip(min=0.), dim=1)
_reward_tracking_lin_vel跟踪线性速度指令(xy 轴)torch.exp(-lin_vel_error / self.cfg.rewards.tracking_sigma)
其中lin_vel_error = torch.sum(torch.square(self.commands[:, :2] - self.base_lin_vel[:, :2]), dim=1)
_reward_tracking_ang_vel跟踪角速度指令(偏航)torch.exp(-ang_vel_error / self.cfg.rewards.tracking_sigma)
其中ang_vel_error = torch.square(self.commands[:, 2] - self.base_ang_vel[:, 2])
_reward_feet_air_time奖励长步幅一系列逻辑处理后得到 ,逻辑见原代码rew_airTime
_reward_stumble惩罚脚撞到垂直表面torch.any(torch.norm(self.contact_forces[:, self.feet_indices, :2], dim=2) > 5 * torch.abs(self.contact_forces[:, self.feet_indices, 2]), dim=1)
_reward_stand_still惩罚零指令下的运动torch.sum(torch.abs(self.dof_pos - self.default_dof_pos), dim=1) * (torch.norm(self.commands[:, :2], dim=1) < 0.1)
_reward_feet_contact_forces惩罚脚部的高接触力torch.sum((torch.norm(self.contact_forces[:, self.feet_indices, :], dim=-1) - self.cfg.rewards.max_contact_force).clip(min=0.), dim=1)

注意:这是标准的奖励函数,每个机器人都有一些微调的奖励函数,这里就不一一整理了。

4.2 观测和动作通道

观测信息由多个部分拼接而成,包括:

  1. 机器人的线速度 ()
    通过 进行缩放。base_lin_velobs_scales.lin_vel

  2. 机器人的角速度 ()
    通过 进行缩放。base_ang_velobs_scales.ang_vel

  3. 投影重力 (projected_gravity)

  4. 控制命令的前三个维度
    包括 x 速度、y 速度和偏航速度,通过 进行缩放。commands_scale

  5. 关节位置相对于默认位置的偏差
    计算方式为 ,并通过 进行缩放。self.dof_pos - self.default_dof_posobs_scales.dof_pos

  6. 关节速度 ()
    通过 进行缩放。dof_velobs_scales.dof_vel

  7. 上一步的动作 (actions)

4.3 动作(动作)

在代码实现中,动作可以被看作是传递给比例-微分控制器(PD 控制器)的位置或速度目标。PD 控制器是机器人控制中常用的方法,它根据当前状态和目标状态(由动作表示)计算需要施加的扭矩,从而使机器人的关节移动到期望的位置或达到期望的速度。

注意: 计算得到的扭矩维度必须与机器人的自由度(DOFs,Degrees of Freedom)数量一致。即使某些自由度没有被驱动(没有对应的执行器控制这些自由度的运动),也必须满足该要求。这是为了确保扭矩向量能够与机器人的每个关节正确对应,以便于后续的控制操作。

在 方法中,根据配置文件中 的不同取值,代码对动作进行了不同方式的处理。_compute_torquescontrol_type

5. 模仿学习(模仿学习)

5.1 工作原理与技术基础

模仿学习是一种通过观察和复制人类或其他专家示范的动作来学习行为的技术。在机器人领域,这种方法极为重要,尤其在复杂动作学习中发挥关键作用。其核心思想可以概括为“看和做”(watch-and-learn):机器人观察人类的运动示范,然后生成相似的运动轨迹。

5.1.1 算法框架:Motion Matching

传统的Motion Matching最早源于游戏行业,它通过查找动作库中最匹配当前状态的下一个动作来生成连贯动作。而Learned Motion Matching则是其深度学习版本,通常包含三大核心组件:

5.1.2 数据流程与优化目标

完整的数据流程如下:

5.2 宇树技术实现猜测----动作重定向技术

将人类动作数据映射到具有不同骨骼结构的机器人上是一个关键挑战。宇树采用的重定向流程主要包括:

  • 骨骼映射:建立人体关节与机器人关节之间的对应关系
  • 空间对齐:确保全局运动(如位移、旋转)正确映射
  • 自由度适配:处理人体与机器人之间的自由度差异
  • 关节限制调整:确保生成的动作符合机器人物理限制

5.3 模仿学习优势与局限性

  • 优势: 无需大量试错学习,直接从示范中获取知识 能处理高度复杂的动作,如舞蹈动作、特技表演等 生成的动作更自然、更符合人类审美 训练效率较高,无需设计复杂的奖励函数

  • 局限性: 受限于示范数据的质量和多样性 难以应对未见过的情境,泛化能力有限 可能忽略底层物理约束,导致真实环境中的失败 动作分解与组合能力有限

6. 强化学习(强化学习)

6.1 核心机制与数学基础

强化学习通过智能体在环境中的反复试错来优化决策策略。在机器人动作学习中,强化学习能够学习极其复杂的动态行为,如翻跟头、奔跑和跳跃等。英伟达具身实验室近期公布的ASAP机器人强化学习算法是一个很牛的算法。

6.1.1 ASAP算法详解

英伟达具身实验室的ASAP(Adversarial Sim-to-Real Adaptation for Policy transfer)算法代表了当前机器人强化学习的前沿。该算法的核心思想是通过三个关键阶段解决模拟到现实的迁移问题:

  • 预训练阶段 输入:人类动作捕捉数据或视频重建的3D人体运动 方法:先将SMPL人体模型的运动重定向到机器人模型 目标:训练一个基本的运动跟踪策略πθπθ​,使机器人能在模拟环境中执行类似动作

  • 增量动作模型训练阶段 输入:在真实机器人上部署预训练策略收集的真实轨迹数据DrDr​方法:训练一个Delta动作模型πφΔπφΔ​来补偿模拟与现实之间的差距 目标:使模拟环境中机器人的行为能够准确预测真实环境中的表现

  • 策略微调阶段 输入:修正后的模拟环境和预训练策略 方法:固定增量动作模型参数,微调策略网络 目标:优化策略使其能在现实环境中表现良好

    和上图一样,基本流程为:

    a) 将人类视频转换为 SMPL 动作:首先录制人类表演富有表现力和敏捷动作的视频。使用 TRAM [93],从视频中重建 3D 动作。TRAM 以 SMPL 参数格式 [52] 估计人体运动的全局轨迹,其中包括全局根平移、朝向、身体姿势和形状参数,生成的动作表示为

b) 基于模拟的数据清理:由于重建过程会引入噪声和误差 [26],一些估计的运动可能在物理上不可行,使其不适合在现实世界中进行运动跟踪。为了解决这个问题,采用“模拟到数据”清理程序。具体来说,使用基于物理的运动跟踪器 MaskedMimic [86] 来模仿 IsaacGym 模拟器 [58] 中 TRAM 的 SMPL 运动。通过此基于模拟验证的运动将保存为清理后数据集

.1.2 PPO算法在复杂动作学习中的应用

6.2 宇树参照ASAP做的可能的技术创新

6.2.1 非对称Actor-Critic架构

为解决部分可观察问题:

  • Actor网络:仅接收可在真实环境中获取的观测,如IMU数据、关节角度等
  • Critic网络:额外接收模拟环境中的特权信息,如精确的全局位置和速度 这种架构既提高了训练效率,又确保了部署时不依赖难以获取的信息。
6.2.2 跟踪容错的终止课程

在训练初期,许多复杂动作(如跳跃、翻滚)对策略来说过于困难。所以终止容错课程很重要: 初始阶段:设置宽松的终止条件(如轨迹偏差1.5米内不终止) 中期阶段:逐步减小容错范围(如降至1.0米) 最终阶段:严格限制偏差(降至0.3米) 这种课程设计使策略能够先掌握基本平衡,再逐步精确跟踪目标轨迹。

6.2.3 参考状态初始化(RSI)
6.2.4 多层级奖励函数设计

奖励项:用三个项的总和来定义奖励函数 r/t:

  1. 惩罚,
  2. 正则化
  3. 任务奖励。

6.3 宇树参照ASAP做的可能的仿真到现实迁移技术

6.3.1 域随机化

为提高模型在真实环境中的鲁棒性,宇树实现了多层次的域随机化: 物理参数随机化:随机化质量、惯性、摩擦系数等物理参数 传感器随机化:添加传感器噪声和延迟 环境随机化:变化地形高度、硬度和倾斜度 动力学随机化:随机电机响应时间和阻尼特性

6.3.2 Delta动力学建模

7. 总结与未来展望

本文详细梳理了宇树开源平台上的主要技术模块,包括从底层硬件平台,到开发工具链,再到顶层算法的设计与实现;同时对强化学习在机器人运动控制中的应用做了系统性分析,并介绍了如何利用LAFAN1重定向数据实现复杂动作学习。整体来看,机器人从数据采集、运动生成、动作学习到仿真-现实迁移的流程,正不断突破传统控制难题,未来通过AI与机器人技术深度融合,人形机器人的敏捷性与表现力将迎来更大提升。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐