VLA(视觉—语言—动作模型)是具身智能领域正在发生的范式转换:它把“看懂世界、听懂指令、做出动作”压缩进一个可端到端训练的模型里,让机器人从“被编程执行”走向“被语言驱动”。 这一概念由 Google RT-2 在 2023 年首次明确提出,此后在不到三年内经历了从离散动作 token 到连续高频控制、从单一操作到全身协调、从实验室演示到产线试运营的快速迭代。


一、VLA 在解决什么问题

传统机器人控制走的是“分解—编程—执行”的路线:感知模块识别物体,规划器生成路径,控制器执行关节指令。每一环都需要人工设计和调试,换一个任务、换一个物体、换一个环境,往往就要重新来过。

VLA 的根本不同在于用一个模型同时接收视觉观测和自然语言指令,直接输出动作,中间不需要手写的控制器或任务特定代码。你可以对机器人说“把桌上那瓶蓝色的水拿过来”,模型需要自己完成:从图像中定位蓝色水瓶、理解“拿过来”的物理含义、生成一条可行的抓取与移动轨迹。这背后要求模型同时具备开放世界的语义理解能力和物理行动能力——而这正是 VLM(视觉语言模型)所不具备的:VLM 能“描述”世界,但 VLA 要“改变”世界。

用一句话概括其定位:语言从描述世界的手段,变成了决策与控制的手段。


二、核心机制:三类模态如何真正“打通”

VLA 不是简单地把三个模块串起来,而是要在表示层面让视觉、语言、动作共享语义空间。当前的技术重心集中在三个环节:

跨模态统一表征。 视觉是稠密的像素网格,语言是离散的符号序列,动作是连续的物理量。VLA 需要建立一种让三者可以互相“翻译”的内部表示。主流路线包括:将动作离散化为 token,使动作预测变成“语言建模”问题;或者保留连续动作空间,用扩散模型或流匹配直接生成轨迹。

语言的任务条件化。 自然语言指令需要被转化为动作生成的结构化约束。简单任务可以直接映射(“抓杯子”→抓取动作);复杂长程任务则需要分层分解(“收拾桌面”→先清理垃圾、再整理物品、最后归位),或者引入中间语言子目标来引导每一步操作。

从感知到行动的因果建模。 模型不仅要“看到”当前画面,还要推断“做什么动作会导致什么结果”。这是 VLA 区别于纯感知模型的关键——它必须隐式地具备物理常识和因果推理能力,才能在未见场景中组合出合理行为。


三、架构与动作表示的演进:三次关键迁移

VLA 的架构尚未收敛,但主线脉络已经比较清晰,可以概括为三次结构迁移。

第一次迁移:动作语言化(RT-1 → RT-2)。 RT-2 的核心贡献是把连续动作离散化为 token(将关节角度分箱),然后用视觉语言大模型的自回归能力来“预测下一个动作 token”。这让 VLA 可以直接继承 VLM 的预训练语义知识,获得了显著的泛化能力,但也带来了动作抖动和精度天花板的问题。

第二次迁移:连续 Action Expert(π0)。 Physical Intelligence 的 π0 用流匹配替代离散 token 预测,外接一个专用的动作生成模块,实现了连续、高频率的动作输出(可达 50Hz),能够完成折纸等对平滑性和精度要求很高的任务。这一路线此后成为生产级 VLA 的主流选择。

第三次迁移:多时间尺度层级。 当任务从“抓一个物体”扩展到“在三个房间里完成 50 余项家务”时,单一频率的端到端模型开始吃力。分层架构重新回归:上层慢系统负责推理和长程规划,下层快系统负责实时动作生成。Google Gemini Robotics 1.5、NVIDIA GR00T N1、小米 Xiaomi-Robotics-0 都采用了这种“快慢脑”思路。

当前并行的架构路线大致有四类:VLM 主干 + 独立动作头(工程友好但长时序能力较弱)、分层快慢脑(兼顾推理与实时控制)、一体化自回归序列(结构简单但动作精度受限)、一体化扩散/世界模型(认知上限最高但训练难度极大)。


四、代表性模型格局

Google 线。 RT-2 是 VLA 的开创性工作;RT-X 借助 Open X-Embodiment 数据集(聚合 22 种机器人、约 100 万条轨迹)将泛化能力推上了一个台阶。Gemini Robotics 则走向“多模态原生”方向,2026 年发布的 Gemini Robotics 2 包含 VLA 模型、具身推理 VLM 和端侧轻量化模型三款,支持全身控制与多机协作,适配新本体仅需不到 200 个样本、数小时。

开源与学术线。 OpenVLA(70 亿参数)以双视觉编码器(DINOv2 负责空间关系、SigLIP 负责语义)加 Llama 2 骨干,在性能上超越了参数量更大的 RT-2-X,并彻底开源了代码、权重和训练脚本,成为学术社区事实上的基线。Octo 则走轻量化路线,强调快速适配不同机器人平台。

Physical Intelligence 的 π 系列。 从 π0 到 π0.7,迭代速度很快:π0 引入流匹配实现连续控制;π0.5 实现开放世界泛化;π0.7 进一步加入世界模型模块,接收当前画面和子任务后生成“子目标图像”作为未来参照,增强物理常识推理。

NVIDIA GR00T。 GR00T N1 采用双系统架构(System 2 慢思考 + System 1 快执行),并选择“开放但不完全开源”的路线,深度绑定自家硬件与工具链。

中国力量。 小米 Xiaomi-Robotics-0 采用大小脑混合架构,消费级显卡即可实现 80ms 推理延迟,基座模型 Xiaomi-Robotics-1 使用 10 万小时真实操作轨迹预训练,2026 年 7 月在 RoboCasa 365、RoboDojo 两大榜单综合排名第一。此外,清华 RDT-1B(10 亿参数、扩散 Transformer、双臂操作)、蚂蚁 LingBot-VLA(跨形态泛化)、阿里 Qwen-VLA 等也在快速推进。


五、落地走到了哪一步

VLA 已经越过了“纯实验室”阶段,但离大规模通用部署仍有距离。当前的落地呈现出一个鲜明特征:在边界清晰、可量化评估的场景中先行,在开放长尾场景中仍在验证。

工业与物流场景进展最快。 小米人形机器人在汽车工厂中控台工站完成了连续 8 小时作业验证,并实现作业异常自主纠偏与产线系统级协同。至简动力与杭叉集团落地的超市前置仓分拣产线,依托 VLA 任务规划与灵巧操作,实测单机分拣效率最高 450 件/小时,准确率稳定在 98% 以上。这类场景的共同点是:任务目标明确、物品类别有限、成功标准可量化。

家庭长程任务进入试运营。 小米在青年公寓完成了连续超 30 分钟、覆盖 3 个房间、包含 50+ 任务的长程验证,涵盖工具准备、桌面整理、垃圾清理、物品分类归位等环节。这表明 VLA 正在从单一操作技能向“任务链”能力延伸,但距离稳定、免维护的家庭部署仍有显著差距。

仿真与评测基础设施同步成熟。 Open X-Embodiment 提供了跨本体的预训练数据底座;LeRobot 标准化了训练流程;Genesis 等仿真工具的加速比可达实时数百倍量级,正在降低 VLA 研发的算力和数据门槛。


六、尚未解决的核心矛盾

VLA 的前景与其瓶颈同样突出,且这些瓶颈大多不是“工程调参能解决”的,而是范式层面的。

泛化的统计性与物理性之间的落差。 VLA 的“泛化”本质上是分布意义上的,而非物理意义上的。在训练集覆盖的形态和场景中表现良好,一旦进入分布外,性能可能断崖式下跌——某些任务中贴合精度可以从 85% 骤降至 40% 以下,而且用户往往无法判断失败原因。跨机器人动作空间异构更是零样本泛化的最大障碍。

推理延迟与反应性之间的根本权衡。 大参数量 VLA 的单步推理延迟通常在 100ms 到 1s 量级,而接触式操作(如抓取、擦拭、装配)对延迟极其敏感:1 秒的延迟在密闭空间中可能直接导致碰撞或损伤。端侧高效推理和异步执行架构是当前的活跃方向,但尚未从根本上消除这一矛盾。

数据质量与仿真—现实差距。 Open X-Embodiment 虽有百万轨迹,但分布外泛化仍然脆弱;仿真与真实世界性能的相关性差,使得在仿真中“刷榜”的模型未必能可靠迁移到真机。触觉反馈的缺失进一步限制了纯视觉 VLA 在力度敏感任务上的表现。

安全性、可解释性与全身协调。 端到端黑盒意味着一个错误动作可能直接造成物理伤害,而当前的 VLA 缺乏系统性的安全护栏和可解释的失败定位手段。从机械臂操作扩展到人形全身控制时,底盘与机械臂的耦合控制还需要混合框架来同时处理运动学约束和任务规划。

评估体系本身不可靠。 真实世界评估受硬件成本和实验条件限制,仿真基准又无法充分反映真机表现。一个在论文指标上很强的模型,在另一个本体、另一套传感器配置下的表现可能完全不同——这使 VLA 的“进步”很难被统一度量。


总的来看,VLA 已经确立了作为具身智能核心范式的位置,并在动作表示、分层架构、数据规模上取得了实质性进展。但它距离“一个模型驱动任意机器人在任意环境中完成任意任务”的通用愿景,仍然受制于泛化的物理可靠性、实时控制的硬约束以及评估体系的不成熟。当前更现实的图景是:VLA 在结构化场景中率先兑现价值,同时通过世界模型、强化学习后训练、合成数据等路径,逐步向更开放的环境渗透。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐