个人介绍:技术博客名为YUTransformer,8年AI老兵,从事NLP、大语言模型、多模态大模型等相关算法的研发和落地,拥有丰富的算法经验,先后在百度、平安、小鹏汽车从事算法落地的工作,借助平台将个人的一些算法研究和经验分享出来,一起推动技术的进步!加我vx(yx116169)入vlm/vla大模型群和llm群

-------------------------------------------------------------------------------------------------------------------------------

论文地址:https://arxiv.org/pdf/2506.01953

本篇文章研究的出发点在于解决VLA系统处理效率过慢的问题,提出了双系统方法,利用基于 VLM 的系统 2 模型处理高级推理,以及单独的系统 1 动作模型来确保实时控制。

快中慢 (FiS) 模型这是一种 VLA 基础模型,它将系统 1 的快速执行能力集成到预训练的 VLM 中,同时保留了系统 2 固有的推理能力。如图 1 所示,与之前的双系统 VLA 方法(将系统 2 与独立的策略模型连接起来作为系统 1)不同,FiS-VLA 将系统 2 的最终转换模块重新利用为一个高效的执行模块,作为系统 1 运行。在这种双系统范式下,FiS-VLA 实现了两个系统之间的无缝协作,因为它们都源自相同的基础模型,且无需改变其连接结构。由于系统 2 负责理解和推理,而系统 1 专注于快速动作执行,因此我们设计了两个系统,使其具有异构模态输入和异步工作频率。对于系统 2,它以较低的频率运行,将二维观测和语言指令处理成多模态潜在表征,以指导系统 1 的执行。对于系统 1,我们系统地研究了各种高频输入对机器人控制的影响,包括机器人状态、二维图像和三维点云。值得注意的是,由于三维几何信息对于精确操控至关重要 [28, 29],我们采用一种快速三维嵌入策略,将点云 [30] 进行标记,并通过共享视觉编码器进行处理以提取空间特征,这些特征直接为系统 1 的几何感知交互提供条件。

FIS-VLA 利用完整的 VLM 进行系统 2 推理,同时将 LLM 的最终转换模块重新用于系统 1 的执行模块。系统 2 处理低频输入(例如 2D 图像和语言指令),并生成中间潜在特征作为系统 1 的条件信息。系统 1 并非仅仅以这些周期性更新的高级表示为条件,而是处理高频输入(包括 3D 点云、2D 图像和机器人状态),以产生稳定且响应迅速的动作。为了实现联合优化,我们引入了一种双感知协同训练策略,该策略将扩散去噪目标与自回归目标相结合,使 FiS-VLA 能够支持快速动作生成,同时保留系统 2 的多模态推理能力。

下图是在不同任务上测评的结果。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。