六位世界模型大牛吵了半小时,这场对话撕开了具身智能最深的裂痕
最近,AI圈内部流传着一段火药味十足的对谈。来自Runway、NVIDIA、UC Berkeley、Physical Intelligence、Sony AI和Wayve的六位核心人物,围坐在一起,就“什么是真正的世界模型”展开了整整半小时的交锋。他们没有客套,没有共识,甚至在最后预测“机器人商业爆发时刻”时,给出了从两年到十年的悬殊答案。这可能是近期关于世界模型与具身智能最诚实、最密集的一次思想碰撞。本文基于完整对话实录,结合学术背景,为你拆解这场争论背后真正重要的技术分歧。
一、Runway的信仰:像素足够多,物理自然涌现
Runway联合创始人Anastasis Germanidis开场的立场就很清晰:他们刻意不在模型架构中注入任何3D先验,而是相信海量像素数据本身就能让物理理解自然涌现。
这不是空谈。Runway内部做了大量对比实验:显式注入3D Mesh、深度图、Plücker相机射线等架构先验,虽然在小数据、简单场景(如单个物体360°旋转)中收敛极快,但它锁死了模型表达的上限。现实世界充满无法用简单3D刚体网格描述的现象——液体的波动、烟雾的扩散、布料的褶皱。一旦在架构中写死3D几何方程,模型处理这些复杂物理现象时就会直接崩溃。
Runway的替代方案是:放弃3D VAE,转向通用的DiT架构;用数据掩码替代几何方程——训练时高比例地掩码掉中间帧,强迫Transformer在隐空间中自己学会三维空间的连续变化;在数据清洗管线中筛选大量包含连续相机运动的视频,让透视规律隐含在数据中,而不是写进代码里。
“如果你希望通过某种归纳偏置让模型更好地学会一样东西,我们更倾向于把偏置放进训练数据里,而不是放进模型架构里。”Anastasis说。
这个立场在工业界有相当强的支持。OpenAI的Sora技术报告就明确指出:用时空Patch对海量视频去噪训练时,几何一致性会随着计算量增加自然涌现,不需要任何3D标签。Runway内部用COLMAP重建、TAPIR点追踪等硬核CV指标评估,发现几何一致性确实在随规模提升。
但NVIDIA的Jim Fan立即表达了不同意见。
二、Jim Fan的质疑:视频只是世界的一部分
Jim Fan给出了一个务实的定义:“世界模型就是一个在给定动作的条件下,预测下一时刻感知状态的模型。”在这个定义下,视频确实是最方便的数据形式。但问题在于:机器人系统从来不止有RGB摄像头这一个传感器。
“今天大家讨论世界模型的时候,有一个问题经常被忽略:除了视频,我们其实还有很多其他模态。”Jim Fan指出,触觉、力觉这些肉眼看不见的信号,都应该被纳入世界模型。
这不仅是理论上的补充,更是物理事实。UC Berkeley的Tedrake等人在精细双臂操作研究中发现,纯视觉策略在插拔排线、拧螺丝等极高精度任务中的失败率高达60%以上,主因正是缺乏高频力觉/触觉反馈。另一项探针实验甚至证明,仅在像素视频上训练的Transformer隐层特征,对物体质量、摩擦系数的解算准确率接近随机猜测。
视频模型能“看到”杯子,但无法“感受”杯子表面的光滑度。这在操作层面是致命的差距。Jim Fan的核心主张是:视频是方便的起点,但不是全部。真正的世界模型必须整合多种感知模态,才能完整捕捉世界的状态及其随动作的演化。
对具身智能而言,这个分歧触及了一个根本问题:如果世界模型只是视频生成器,它是否真的能指导物理交互?
三、Sergey Levine的锋利质疑:别被漂亮视频骗了
Sergey Levine——真正把机器人部署到现实世界的少数人之一——抛出了整场对话中最尖锐的批评。
“如果一个模型生成的视频看起来非常有说服力,我们很容易陷入一种误区:视频看起来真实、漂亮,但这并不意味着模型真的有能力去模拟那些我们真正关心的物理反事实。”
他的论证直指要害。当你给视频模型一个提示词时,它不需要真正预测“如果我做了某件事,物理系统会怎样演化”。它只需要生成一个看起来符合提示词的结果。而模型可以选择怎么安排场景、怎么改变环境,来让结果“看起来合理”。
Sergey举了一个具体的例子:用大量驾驶数据训练的模型,如果你问它“如果我把车直接开进一栋楼,会发生什么”,它可能会生成这样的结果——楼倒了,变成一条漂亮的马路,你继续欢快地开着车往前走。
这不是理论推演,而是已经发生的实验事实。这一现象的底层原因是数据流形的拉回效应:自动驾驶数据集中99.99%都是“安全车辆在马路上正常行驶”。当输入一个极稀有的反事实条件时,扩散模型不会去计算砖块碎裂的复杂物理力学,而是把生成轨迹拉回高概率的已知流形——“平整的马路”。模型用视觉上连续平滑的画面骗过了损失函数和人类的眼睛。
“是的,模型当然可以学到物理。但你必须非常小心,不能被它生成的那些看起来非常真实的视频给骗了。”Sergey的结论冷静而克制。
四、VLA vs WAM:一场关于抽象层级的争论
VLA时代是否终结?世界动作模型(WAM)是否取而代之?这是整场对话中最激烈的议题。
Jim Fan用“系统一/系统二”框架做出了精妙的切割。
对于系统一——快速、反应式的运动技能——WAM确有显著优势。很多物理常识(比如“怎么抓起一个杯子”)极难用语言token描述清楚。将连续动作空间离散化为文本token,在精细操作中会导致控制精度的严重断层;大语言模型每次推理的延迟在100-500ms级别,而机器人底层执行器需要100Hz-1kHz的连续控制。用语言token描述“第5毫秒肌肉该施加多少牛顿的力”,从第一性原理上就是资源浪费。
但对于系统二——推理、写代码、调用工具——VLA依然不可替代。Opus和GPT本质上是智能体式的,它们通过感知理解世界,调用各种工具。WAM擅长未来1-2秒的物理连续预测,但在跨越数分钟的逻辑因果任务中,纯物理WAM会因为误差累积陷入盲目乱动。
“我不认为未来会是某一个模型彻底取代另一个模型。真正的关键,是你究竟在哪一个抽象层级上工作。”
Sergey Levine则从更根本的角度质疑这个问题本身:“把‘模型’放在‘数据’之前,我不太确定这个顺序是对的。”他说,那些真正表现很好的VLA,本身也是在大量视频数据上训练的。正确的问题不是“VLA还是WAM”,而是“我们怎样才能利用尽可能多的数据”。
Anastasis补充了一个收敛趋势:现在所有方向都在往omni模型走——同时预测视觉、音频、文本。最终的区别不在架构,而在预训练阶段把模型容量投向了哪里。
五、程序性知识与现实约束:Sony AI的“踩刹车”
Sony AI总裁Michael Spranger带来了一个被学术界常忽略的视角:现实世界的部署约束。
“在赛车和乒乓球这类任务中,语言其实没那么有用。你可以用语言去描述一个技能应该怎么做,但真正包含的信息非常有限。”他引入认知科学的经典区分:陈述性知识(可以用语言编码和传输的)和程序性知识(属于内隐知识,依赖高频感觉-运动回路的肌肉记忆)。
Sony AI的标杆工作GT Sophy——在Nature封面发表的击败人类赛车手的AI——底层核心是连续状态空间的超高频深度强化学习策略,完全没有使用任何自然语言token。因为过弯时的离心力与轮胎滑移率调节,属于纯粹的程序性控制。用语言去转译毫秒级的肌肉感知,只会导致信息丢失和延迟飙升。
但Michael同样指出,不能因此否定视觉和语言模型的价值。问题在于部署场景的算力约束:在PlayStation上运行20个智能体比赛,根本无法为每个智能体渲染完整的视觉信息,因为GPU算力已经全部用在了给玩家渲染画面上。
“重要的问题不是‘选A还是选B’,而是你关注什么领域、想解决什么问题、最终的下游应用是什么。”这个回答,让这场技术争论回到了工程的本质。
六、数据、仿真与世界模型:三种环境的博弈
当讨论转向“真实机器人的技能有多少必须来自物理世界”时,Jim Fan给出了一个框架性的总结。
做强化学习的人,本质上是在“造环境”。而环境的来源有三个选择:
真实世界:物理最真实,零域差距,但时间无法加速,硬件磨损和安全风险极高。
经典仿真器:运行极快,但真正的瓶颈不是速度,而是资产和环境的匮乏。Real-to-Sim路线——用NeRF/3DGS自动扫描真实世界并重建到仿真器中——正在解决这个问题。
世界模型作为神经模拟器:数据驱动,多样性巨大,但运行太慢——调用一个大型Video Diffusion Transformer进行下一帧预测,延迟高达几十到上百毫秒,作为强化学习环境的算力成本极其高昂。
“我真正期待看到的,是一条更加整体性的路线:不是非要在这三者之间选一个,而是想办法把它们结合起来,充分利用各自的优势。”
Sergey Levine则提出了“自举”与“未来”的两个阶段判断。当前,机器人领域还处在自举阶段,遥操作数据是主流。但最终会进入一个“部署在现实里的机器人像今天的汽车一样多”的时代,到那时,能够利用海量真实数据的强化学习方法会变得极其重要。“挑战不再是‘怎么让机器人学会这个任务’,而是怎么跨过最后那一点差距——从98%成功率到100%。”
七、预测的分歧:两年到十年
对话最后的快问快答,要求每人给出“机器人商业爆发时刻”的预测年份。
Wei Zhan:三年。理由是还需要补齐物理模态数据。Sergey Levine:三年。但不知道具体领域,关键是需要一个足够通用的模型。Michael Spranger:两年,工业场景。因为半结构化环境数据充足,技术已经差不多到位。Jim Fan:最早2030年,2035年机器人数量超过iPhone。Anastasis:企业级场景两三年,家庭环境五到十年。
从两年到十年,这个巨大的时间跨度本身,就是这场争论最真实的注脚。
附:这场争论对具身智能意味着什么?
这场讨论揭示了具身智能领域正在经历的一个根本性转变。
第一,世界模型的定义权正在从视频生成派向多模态交互派转移。当Jim Fan和Sergey反复强调触觉、力觉、本体感觉时,他们其实在说:一个只活在像素世界里的智能,无法真正理解物理交互。对具身智能而言,世界模型的终极目标不是生成逼真的视频,而是支持机器人在真实世界中做反事实推演——“如果我以这个力度捏这颗草莓,它会碎吗”。
第二,“数据第一性原理”与“架构先验”之争的本质,是规模信仰与工程务实之间的张力。Runway的纯像素路线需要海量数据支撑,而机器人领域恰恰缺少这种数据。在机器人数据量远未达到“数据消解归纳偏置”的临界点时,合理的架构设计和物理先验仍然不可或缺。这不是对Scaling Law的否认,而是对当前数据稀缺现实的正视。
第三,触觉和力觉正在成为具身智能下一阶段的关键变量。这场对话中,当讨论从“视频能否涌现物理”延伸到“机器人需要什么感知”时,触觉被反复提及。这不是巧合。视觉解决“在哪”的问题,触觉解决“正在发生什么”的问题。在精密装配、柔性材料操作、接触密集任务中,触觉是不可替代的物理反馈源。当前VLA模型以视觉和语言为核心,触觉基本缺席——这正是具身智能从“看着会做”走向“真的做到位”的关键缺口。
第四,多阶段分层架构正在成为共识。无论“系统一/系统二”还是“程序性/陈述性知识”,都在指向同一个判断:单一的端到端模型难以同时处理高层语义理解和低层高频控制。未来的具身智能系统,很可能是“大模型做规划,技能策略做执行,底层控制器做力控”的分层架构。这不是妥协,而是对不同时间尺度和物理约束的正确分工。
这场半小时的争论,没有给出任何确定的答案。但它揭示了一个正在成形的共识:具身智能的下一步,不是造更大的视频模型,而是造一个真正能感知接触、理解物理、在真实世界中闭环的智能系统。这条路,比生成逼真的视频难得多,也比任何单一模型的胜利都重要得多。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐

所有评论(0)