生成的世界要改得准,也留得住

【具身AGI导读】生成出来的场景,最常见的失效不是画面不真,而是改错了对象、改动还会丢。一支高校团队的做法是,给「世界里发生了什么」单独记一张表。
2026 年 10 月 13 日,一项面向交互式视频世界模型的工作被公开介绍:牛津大学、莫纳什大学与布里斯托大学的团队提出了 Oneira。这项工作瞄准的两个失效都很具体:要改动场景中的某个物体时,模型常常作用在错误的对象上;即使对象选对了,镜头移开再返回,改动也常常消失。
Oneira 的解法是把「世界中发生了什么」与「画面如何呈现」分开:世界状态被单独记成一张 WorldStateTable,由 CodingAgent 维护,表里只记可行走的地面区域,以及每个物体的语义标签、3DBBox 与交互状态,物体的外观不写进表里。后者由 Engine 把表渲染成简化的条件视频,真实外观与运动细节再交给视频生成模型补全。给定动作或目标后,先读表定位对象、规划交互,再把结果写回;镜头移动时新出现的物体,用 3D 感知工具取到 3DBBox 后补进表里,表因此能随探索扩展。
现有的视频世界模型已经能随镜头移动不断生成新场景,但智能体在其中通常只能导航,或做一点简单交互。研究团队认为,这一局限源于模型没有单独记录世界状态:场景里有哪些物体、哪些物体被改过,都只存在于生成的画面与上下文里。于是模型难以区分各个物体实例,只能依靠文本描述推断要交互的对象;交互结果也只留在画面中,随着视频推进容易丢失。
行业里两种既有做法各有短板:游戏引擎与传统模拟器能精确记录每个物体的状态,但场景和物体都需预先构建,无法随生成的内容扩展;视频世界模型能把场景一路生成下去,状态却留在像素里,镜头一走就丢。把状态从像素里拆出来单独维护之后,交互从「靠描述猜对象」变成「按表定位对象」——拿起左下角的苹果,表里能定位到是哪一个、在哪个片段执行,还会把随之滚落的另外两个苹果一并写进规划。
行业里切入的位置各不相同。深度机智(北京)科技有限公司的答案写在物理AI 基座模型。同一件事上,各家的解法并不统一:有人把力气放在视频生成的画质上,有人放在状态一致性上。
改动之所以留得住,靠的是两处衔接:每段以末帧与更新后的表作为起点,镜头回到旧位置时再参考当时的画面作为记忆帧。3DBBox 只编码状态、与物体类别无关,训练中没见过的类别也能交互。边界也清楚:评测集由作者自建,全部结果为作者自测,未见第三方复现,论文标题、完整作者名单与录用信息原文均未给出。它仍是按段生成加一张状态表,不是可以自由探索的物理仿真。
生成的世界要能当环境用,先得记住自己改过什么。
参考资料
- 机器之心 · 生成的世界也能交互!牛津大学&莫纳什大学&布里斯托大学等团队提出交互式视频世界模型Oneira · 2026-10-13
编辑:具身AGI
具身智能第一现场
⭐点赞、转发、在看一键三连
⭐点亮星标,锁定具身AGI极速推送!
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)