上海交大 × 百度百舸开源 WAVE-0:无需大规模视频预训练,257M 潜空间世界模型让 π₀.₅ 真机平均成功率接近翻倍
近期,工业界的一大批世界模型工作在学术界的具身 benchmark 上不断刷新成绩。但这些性能提升往往伴随着更复杂的结构设计和更多的训练数据,很难分辨能力提升究竟来自哪里。更值得注意的是,一些第三方真机评测显示,这些榜单上成绩领先的模型,在真机性能或数据效率上并不一定超过 π₀.₅。这就引出一个问题:我们该如何更公平地判断一个模型设计是否真正有效?毕竟,我们需要的是能够迁移、泛化性更好的设计,而不仅仅是榜单上的分数。
为此,上海交通大学联合百度智能云、Awaken Robotics 的研究团队发布了 WAVE-0(World-model-Augmented VLA Execution)。它通过一个轻量级潜空间世界模型,把 VLA 与世界动作模型(WAM)连接起来,让预测的动作后果直接指导动作生成。WAVE-0 结构简洁,可以作为这一方向后续研究的对比基线。
该工作在预训练视觉语言动作模型 π₀.₅ 的基础上,引入仅约 257M 参数的轻量级潜空间世界模型。在无需额外引入大规模视频预训练世界模型模块的条件下,WAVE-0 在多个仿真与泛化基准上取得了明显提升,并将三个真实机器人任务的平均成功率从 π₀.₅ 的 38.3% 提升至 73.3%,接近翻倍。
-
论文地址:https://arxiv.org/abs/2610.18568
-
项目主页:https://hmwang2002.github.io/release/wave0/
-
代码地址:https://github.com/AutoLab-SAI-SJTU/WAVE-0

1. 从 VLA 到 WAM:如何让未来预测更高效地参与机器人决策?
视觉语言动作模型(VLA,Vision-Language-Action)是当前通用机器人操作的主流路线:预训练视觉语言模型(VLM,Vision-Language Model)提供语义理解,再用机器人示教数据训练动作生成,π0、π0.5、OpenVLA 都属于这一类。但这类模型通常缺乏对动作后果的显式预测,在多步骤操作中,难以提前判断当前动作对后续执行的影响。世界动作模型(WAM,World Action Model)试图补上这一能力,但基于视频生成的方法需要预测未来画面,训练与推理成本较高。潜空间方法避免了像素级生成,却仍面临未来预测如何融入决策的问题。
具体来看,现有的潜空间方法各有不足。VLA-JEPA 和 JEPA-WAM 主要利用未来预测进行表征学习,未将预测结果显式用于动作生成;LaWAM 则通过预测的视觉子目标指导策略,但其潜在动作需要从视频变化中经逆动力学模型推断,并依赖约 4500 小时视频预训练及后续策略训练。
论文由此提出一个问题:当带轨迹标注的真机和仿真数据越来越多时,还有必要绕到无标注视频里间接学习环境动态吗?

2. How to design?
WAVE-0 的全称是 World-model-Augmented VLA Execution。它的出发点是一个数据观察:每一条机器人示教轨迹,都同时记录了动作序列和随后的观测画面。这正是「执行这个动作,环境会怎么变」的成对监督。直接用它训练世界模型,预测出的未来就与可执行的动作严格对应,既没有逆动力学反推带来的错位,也不需要大规模视频预训练。
另一个支点是复用预训练 VLA 已有的能力。π0.5 的视觉编码器已经提供了一个语义丰富的视觉表征空间,世界模型不必从零理解世界,只需要学「在这个表征空间里,给定动作,表征会怎么演化」。预测目标是表征而不是画面,模型因此可以做得很小:整个世界模型连同配套编码器只有 257M 可训练参数,而完整的 WAVE-0 约 43 亿(4.3B)参数,前者只占约 6%。
在此基础上,WAVE-0 将潜在动作规划、未来预测与动作生成连接起来。推理时,VLM 根据当前观测和语言指令生成潜在动作计划,世界模型据此预测未来视觉表征,再经轻量级重采样模块送入 Action Expert,与原有视觉语言上下文共同指导动作生成。这一过程在训练和推理时均发挥作用,让预测的未来直接参与动作决策,无需生成未来图像,仅增加世界模型与重采样模块的前向计算。
3. How to train?

WAVE-0 采用两阶段训练:先从真实机器人动作中学习环境动态,再将这一能力接入 VLA,训练由未来预测指导的动作生成。
Stage 1:学习动作如何改变环境。机器人示范提供了当前观测、真实动作序列及未来观测之间的对应关系。WAVE-0 使用冻结的视觉编码器提取当前与未来的视觉表征,将真实动作序列和机器人状态编码后输入隐空间世界模型,预测当前到未来的表征变化。训练同时监督未来表征及其相对当前状态的变化量,使模型学习动作相关的环境动态。
为了增强模型对动作条件的敏感性,WAVE-0 进一步引入反事实排序监督(Counterfactual Ranking):保持当前观测和机器人状态不变,分别输入真实动作与不匹配的动作序列,要求真实动作对应的预测比不匹配动作对应的预测更接近实际未来。这一目标鼓励模型利用动作信息区分不同的预测结果,无需额外采集替代动作执行后的观测。
Stage 2:将潜空间动作计划与世界模型对齐。冻结第一阶段训练好的世界模型及配套编码器后,WAVE-0 将其接入预训练 π₀.₅,联合训练 VLM、重采样模块和 Action Expert,使策略学会生成潜在动作计划,并利用预测的未来指导动作生成。
训练由三类目标共同驱动:动作生成损失监督最终动作;动作表征对齐损失使 VLM 生成的计划接近真实动作编码得到的表征;未来预测损失则约束计划对应的未来表征及其变化。后两类辅助监督分别约束「计划如何表达」和「计划会带来什么后果」,帮助 VLA 有效利用第一阶段学到的环境动态。
4. How does it perform?
研究团队在 LIBERO、RoboTwin 2.0、三个分布外泛化基准以及真实双臂机器人上对 WAVE-0 进行了系统评测。除了验证未来预测能否改善 π₀.₅ 的操作能力,实验还重点比较了不同世界模型方法在预训练数据需求和最终性能上的差异。
标准仿真任务:LIBERO 达到 98.7%,RoboTwin 2.0 达到 91.47%
在 LIBERO 四个任务套件上,WAVE-0 的平均成功率达到 98.7%,相比基座 π₀.₅ 的 96.9% 提升 1.8 个百分点。其中,LIBERO-Object 达到 100.0%,LIBERO-Long 从 92.4% 提升至 97.6%,提高 5.2 个百分点。相比其他任务套件,涉及连续操作的 LIBERO-Long 提升更加明显,说明未来预测对多步骤任务具有较好的辅助作用。
在包含 50 个双臂操作任务的 RoboTwin 2.0 上,WAVE-0 的平均成功率从 π₀.₅ 的 80.38% 提升至 91.47%,提高 11.09 个百分点。在干净场景和域随机化场景中,成功率分别达到 91.46% 和 91.48%,两种设置下均有明显提升,在无需额外大规模视频预训练的情况下取得了与 LaWAM(91.22%)相当的表现。

泛化能力:面对视觉、空间和语言变化,仍保持较高成功率
WAVE-0 直接使用 LIBERO 训练后的模型,在无需额外微调的情况下进行分布外泛化评测。在 LIBERO-Plus 和 LIBERO-Pro 上,成功率分别达到 88.0% 和 61.4%,分别较 π₀.₅ 提升 3.5 和 8.4 个百分点;在考察指令改写的 LIBERO-Para 上,成功率也从 71.4% 提升至 75.0%。
WAVE-0 在 LIBERO-Plus 和 LIBERO-Pro 上均优于论文所比较的其他世界模型方法,包括使用额外视频预训练的 LaWAM,以及无需独立大规模视频预训练的 ImageWAM,体现了其面对视觉、空间和语言分布变化时的泛化能力。

真机任务:平均成功率从 38.3% 提升至 73.3%
研究团队进一步在 AgileX Piper 双臂机器人平台上评估了三个实际操作任务:书籍整理(Book Organization)、USB 收纳(USB Storage)和键盘推回(Keyboard Pushback)。每个任务采集 200 条机器人示范,各方法在相同任务数据下训练,并分别进行 20 次测试。
WAVE-0 在三个任务上分别取得 85.0%、65.0% 和 70.0% 的成功率,均为对比方法中的最高成绩。整体平均成功率从 π₀.₅ 的 38.3% 提升至 73.3%,提高 35 个百分点,接近翻倍;相比 LaWAM(43.3%)和 ImageWAM(40.0%),分别领先 30.0 和 33.3 个百分点。


数据需求与性能对比:不依赖更多外部预训练数据,也能取得更好的表现
除了性能上的提升,WAVE-0 的另一个优势是不需要额外的大规模视频预训练世界模型。
现有潜空间世界模型采用了不同的数据与训练路线。LaWAM 使用约 4500 小时机器人及人类第一视角视频预训练,VLA-JEPA 引入 SSv2 等外部视频与机器人数据;WAVE-0 则直接利用目标 benchmark 的机器人示范学习环境动态,不需要额外大规模视频预训练。Fast-WAM、JEPA-WAM 和 ImageWAM 同样不依赖独立的大规模视频预训练,但采用了不同的世界模型学习与策略融合方式。
表 1:训练数据需求对比(WAVE-0 与 Fast-WAM、JEPA-WAM、ImageWAM 一样不做视频预训练,LaWAM 需要约 4500 小时视频,VLA-JEPA 需要 SSv2 等视频及机器人数据)

表 2:仿真与真机任务成功率对比(高亮为该行最优;真机三项任务为 WAVE-0 论文自测结果)

5. 消融实验与训练成本:未来预测如何发挥作用?
让机器人能够预测未来,只是第一步。预测结果能否真正改善动作生成,还取决于世界模型如何参与决策。
在 RoboTwin 2.0 上,研究团队首先比较了两种方式:一种只在训练时利用世界模型提供辅助监督,另一种则让预测的未来直接参与动作生成。前者已经能将 π₀.₅ 的成功率从 80.38% 提升至 89.51%;采用 WAVE-0 的未来条件化方式后,成功率进一步达到 91.47%。这说明,世界模型不仅能帮助策略学习,其预测结果在推理时也能发挥作用。
但预测得准确,不代表模型真正关注了动作。如果换一组动作,预测的未来却几乎不变,世界模型就很难为决策提供有效信息。为此,WAVE-0 引入反事实排序监督,让模型学会区分不同动作可能带来的结果。实验中,加入这一监督后,世界模型对动作差异的敏感性明显增强,LIBERO-Plus 和 LIBERO-Pro 的成功率分别从 85.4% 和 58.4% 提升至 88.0% 和 61.4%。
另一个问题是,VLM 生成的潜在动作计划,能否被世界模型正确理解?WAVE-0 通过未来预测监督和动作表征对齐共同约束这些计划。仅使用动作生成损失时,LIBERO-Plus 和 LIBERO-Pro 的成功率分别为 84.6% 和 58.0%;加入未来预测监督后提升至 85.3% 和 59.7%;进一步加入动作表征对齐后达到 88.0% 和 61.4%。这表明,让动作计划既与真实动作表征对应,又受到预测后果的约束,能够进一步改善策略表现。

这些收益背后,需要投入多少训练?论文将共享预训练与三个真机任务的策略训练一并统计:LaWAM 的共享预训练量依据其论文报告的训练步数与批大小计算,包含世界模型预训练和策略集成预训练;WAVE-0 的共享预训练则对应第一阶段,即使用三个任务的机器人示范训练世界模型。加上各任务的策略训练后,WAVE-0 累计处理 33.28M 个训练样本,约为 LaWAM(345.60M)的 1/10,同时取得了更高的平均成功率(73.3% vs. 43.3%)。这里统计的是包含重复采样的累计样本

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)