当机器人不再只是机械地执行动作,而是开始“想象”环境会如何变化,这标志着机器人学习从“条件反射”进化到了“认知推理”。乐机器人 v0.6.0 新增的世界模型和奖励模型,正是这个转折点的技术基石。

这是什么

乐机器人(LeRobot)是一个开源的机器人学习框架,由 Hugging Face 团队主导开发。v0.6.0 版本的核心更新有三点:世界模型奖励模型,以及开放 GR00T

简单说,之前的机器人学习框架主要关注“动作控制”——给定一个状态,输出一个动作。而 v0.6.0 引入了“环境理解”能力:世界模型让机器人能预测动作后的环境变化,奖励模型则让机器人学会判断“什么才是好行为”。

GR00T 的开放更值得关注——这是一个预训练的大规模机器人基础模型,现在社区可以直接使用,不再需要从零训练。

为什么重磅

对比一下 v0.5.x 和 v0.6.0 的能力差异:

维度 v0.5.x(传统) v0.6.0(新)
核心能力 动作映射(State → Action) 环境预测(State+Action → Next State)
决策方式 单步决策,无长期规划 多步推演,能模拟未来
错误处理 遇到异常直接崩溃 能预判风险并调整策略
数据效率 需要大量真实交互数据 可通过“想象”生成训练数据
社区门槛 需要自己训练基础模型 直接使用 GR00T 预训练模型

关键差异:以前机器人是“条件反射”,现在有了“工作记忆”和“想象力”。

对比竞品,比如 Google 的 RT-2 或 NVIDIA 的 Isaac Gym,乐机器人的优势在于开源生态模块化设计。RT-2 是闭源的,Isaac Gym 需要 NVIDIA 硬件,而乐机器人完全开源,支持 PyTorch,甚至可以在普通 GPU 上跑。

技术亮点

1. 世界模型:让机器人学会“想象”

世界模型的核心思想是:学习环境的动力学。给定当前状态和动作,预测下一个状态。

# 乐机器人 v0.6.0 世界模型接口示例
class WorldModel(nn.Module):
    def __init__(self, state_dim, action_dim, hidden_dim=256):
        super().__init__()
        self.encoder = nn.Sequential(
            nn.Linear(state_dim + action_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim)
        )
        self.decoder = nn.Linear(hidden_dim, state_dim)
    
    def forward(self, state, action):
        # 输入:当前状态 + 动作
        # 输出:预测的下一个状态
        latent = self.encoder(torch.cat([state, action], dim=-1))
        next_state_pred = self.decoder(latent)
        return next_state_pred

这个模型训练好后,机器人可以在不接触真实环境的情况下,通过“想象”来规划动作序列。比如抓取一个杯子,传统方法需要实际尝试几十次,现在可以在世界模型里模拟几百次,选出最优方案再执行。

2. 奖励模型:从“人工设计”到“自动学习”

传统强化学习最大的痛点就是奖励函数设计——工程师需要手动定义“什么行为是好的”。乐机器人 v0.6.0 的奖励模型自动从人类演示中学习奖励函数。

# 奖励模型训练流程
reward_model = RewardModel(state_dim, action_dim)
# 从人类演示数据中学习
for demo in human_demonstrations:
    state, action, next_state = demo
    # 人类认为好的行为 → 高奖励
    reward = reward_model(state, action)
    # 优化:让模型学会区分好/坏行为
    loss = F.mse_loss(reward, human_feedback)

这意味着:不需要写复杂的奖励函数。只要给机器人看几段人类操作视频,它就能自动学会“这样做是对的”。

3. GR00T 开放:预训练模型的“降维打击”

GR00T 是一个在百万级机器人交互数据上预训练的基础模型。开放意味着:

  • 小团队可以直接用 GR00T 做特征提取,不需要从零训练
  • 支持迁移学习:在 GR00T 基础上微调,只需要少量数据就能适配新任务
  • 统一了不同机器人平台的表示空间
# 使用 GR00T 进行迁移学习
from lerobot.models import GR00T

# 加载预训练模型
base_model = GR00T.from_pretrained("lerobot/gr00t-base")

# 冻结大部分层,只微调最后几层
for param in base_model.parameters():
    param.requires_grad = False
# 添加任务特定头
task_head = nn.Linear(512, num_actions)

4. 模块化架构:可插拔的组件设计

乐机器人 v0.6.0 的架构设计非常工程友好:

LeRobot Pipeline:
┌──────────┐    ┌──────────┐    ┌──────────┐
│ 感知模块  │ → │ 世界模型  │ → │ 策略网络  │
└──────────┘    └──────────┘    └──────────┘
                      ↓
                ┌──────────┐
                │ 奖励模型  │
                └──────────┘

每个模块都可以独立替换。比如你可以用自己的视觉模型替换感知模块,或者用不同的世界模型架构。这种设计让调试和迭代变得非常方便。

对 AI 工程师的启示

1. 从“动作控制”思维转向“环境理解”思维

如果你在做机器人相关项目,建议优先构建世界模型,而不是直接训练策略网络。世界模型的好处:

  • 可以离线训练,不需要真实机器人
  • 一旦训练好,可以用于多种任务
  • 能生成合成数据,缓解数据稀缺问题

具体行动:在你的机器人项目中,先花 70% 的时间构建环境动力学模型,再花 30% 的时间训练策略。

2. 奖励模型是“数据效率”的关键

传统强化学习需要百万级交互数据,因为奖励函数是人工设计的,机器人需要大量试错才能学会。而奖励模型从人类演示中学习,数据效率提升 10-100 倍

具体行动:收集 50-100 段人类操作演示(可以用 VR 或遥操作),用乐机器人的奖励模型训练,然后在这个奖励模型上做强化学习。

3. 预训练模型是“降本增效”的捷径

GR00T 的开放意味着:不需要大厂资源也能做机器人 AI。如果你在创业或做研究,直接使用 GR00T 作为基础模型,可以节省 3-6 个月的训练时间和数十万 GPU 成本。

具体行动:在乐机器人框架中,用 from_pretrained 加载 GR00T,然后针对你的具体任务做微调。一个典型的微调只需要 1-2 天,数据量 1000 条左右。

参考链接

  • 原文:https://topicqueue.substack.com/p/lerobot-v060-adds-world-models-reward
  • 乐机器人 GitHub:https://github.com/huggingface/lerobot
  • GR00T 模型卡:https://huggingface.co/lerobot/gr00t-base

一深思AI · AI 情报站 · 2026-07-10

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐