【论文List泛读】Robot+Agent(一)
1. Agentic-VLA: Efficient Online Adaptation for Vision-Language-Action Models
基础信息
- 题目:Agentic-VLA: Efficient Online Adaptation for Vision-Language-Action Models
- 时间:2026年5月
- 机构:Scinetics
- 关键词:VLA, Online Adaptation, Reinforcement Learning
一句话总结
作者为了解决VLA模型泛化能力差、需要大量演示数据的问题,提出了一个名为Agentic-VLA的在线自适应框架,通过让模型在交互中自我进化和利用过往经验,在LIBERO基准测试中将长程任务成功率提升了12.3%,并将收敛速度提高了2.4倍。
为什么要做
现有的VLA模型主要依赖模仿学习,导致它们只会死记硬背专家演示,一旦环境稍有变化就容易失败,且缺乏自我纠错能力。此外,传统方法每学一个新任务都需要大量数据,难以扩展。这个问题值得解决,因为真正的通用机器人必须具备在部署中持续学习和适应新环境的能力。
做了什么
作者没有把模型当成一个死板的执行器,而是设计了一套“智能教练”系统来辅助训练。
- 动态调整目标:系统会自动把复杂任务拆解成小目标,并根据模型当前的掌握程度,动态调整奖励机制,让模型先学简单的,再攻克难的( curriculum learning)。
- 语言引导探索:利用一个VLM(视觉语言模型)作为“批评家”,用自然语言(如“试着从左边靠近”)指导机器人探索,而不是让它盲目地随机乱试。
- 经验记忆库:建立一个记忆库,存储以前学过的任务参数。遇到新任务时,先检索相似任务的“经验”进行热启动,而不是从零开始学。
结果如何
- 性能显著提升:在LIBERO基准测试中,该方法在长程任务上比基线提升了12.3%,平均成功率达到97.8%。
- 极低数据依赖:在“单样本学习”(1-shot)场景下,成功率比基线高出28.5%;甚至在完全没有特定任务演示的情况下,通过跨任务迁移也能达到31.2%的成功率。
- 训练更快:相比现有的在线适应方法,收敛速度快了2.4倍。
最后记住
这篇论文最大的贡献是证明了通过引入“智能教练”机制(动态奖励、语言引导、经验记忆),可以让VLA模型具备像人一样的持续学习能力。虽然目前主要在仿真环境中验证,且存在奖励黑客等潜在风险,但它为机器人摆脱对海量数据的依赖指明了方向,非常值得精读。
2. CaP-X: A Framework for Benchmarking and Improving Coding Agents for Robot Manipulation
基础信息
- 题目:CaP-X: A Framework for Benchmarking and Improving Coding Agents for Robot Manipulation
- 时间:2026年3月
- 机构:NVIDIA, UC Berkeley, Stanford University, Carnegie Mellon University
- 关键词:Code-as-Policy, Robot Manipulation, Agentic Framework
https://arxiv.org/abs/2603.22435
一句话总结
作者为了解决大模型在机器人控制中过度依赖人工预设指令、缺乏底层推理能力的问题,提出了一个名为CaP-X的评测与改进框架,证明了通过多轮交互和自我纠错,无需额外训练的模型也能在机器人操作上达到甚至超越人类专家的水平。
为什么要做
现有的“代码即策略”(Code-as-Policy)方法虽然流行,但往往依赖人类预先写好的高级指令(如“堆叠物体”),掩盖了模型真实的推理能力。一旦去掉这些“拐杖”,让模型直接调用底层接口,现有模型的表现就会大幅下滑,无法处理复杂的物理交互。
做了什么
作者构建了一个名为CaP-Gym的评测环境,强制模型使用底层API(如逆运动学、图像分割)来写代码控制机器人。在此基础上,他们提出了CaP-Agent0框架,核心是让模型像人类程序员一样工作:
- 多轮交互:代码运行报错后,模型能读取错误日志进行自我修正。
- 视觉差异模块(VDM):不直接让模型看复杂的图像,而是用另一个模型将图像变化转化为文字描述(如“物体被拿起来了”),帮助模型理解物理状态。
- 自动技能库:模型将写过的成功代码片段自动保存为函数,下次直接调用,无需重复编写。
结果如何
- 超越人类:在CaP-Bench基准测试中,CaP-Agent0在7项任务中的4项上达到了与人类专家相当甚至更高的成功率。
- 底层能力验证:实验证明,即使只使用最基础的底层接口,通过多轮“试错-修正”机制,模型的成功率也能大幅提升,甚至超过使用高级接口的单次生成模式。
- 泛化性:该方法在LIBERO-PRO和BEHAVIOR等长程任务中,表现优于或持平于经过大量数据训练的VLA模型(如OpenVLA)。
最后记住
这篇论文最大的贡献是证明了“测试时计算”(Test-time Compute)的价值——通过增加推理和纠错的轮数,可以弥补模型预训练知识的不足。它提供了一个无需训练就能让通用大模型控制机器人的有效路径,对于理解Agentic AI在物理世界的应用非常有参考价值。
3. AutoRT: Embodied Foundation Models for Large Scale Orchestration of Robotic Agents
基础信息
- 题目:AutoRT: Embodied Foundation Models for Large Scale Orchestration of Robotic Agents
- 时间:2024年7月
- 机构:Google DeepMind
- 关键词:Robotics, Foundation Models, LLM
https://arxiv.org/pdf/2401.12963
一句话总结
作者为了解决机器人真实世界数据匮乏的问题,提出了一套名为AutoRT的系统,利用VLM和LLM指挥20多个机器人自主探索环境、生成任务并收集数据,最终在7个月内成功收集了7.7万条真实的机器人操作数据。
为什么要做
现有的机器人学习受限于缺乏大规模、多样化的真实世界数据,因为让机器人去收集数据通常依赖昂贵的人力遥控,或者只能在单一、受限的实验室环境中进行,无法应对现实世界的复杂性。
做了什么
作者构建了一个由大模型驱动的“机器人指挥官”。
- 输入:机器人摄像头看到的画面。
- 处理:VLM识别画面中的物体,LLM根据物体和预设的“机器人宪法”(安全规则)自动生成可以执行的任务指令(如“把杯子放进碗里”)。
- 输出:系统决定是让机器人用预训练的策略(如RT-2)自动执行,还是请求人类遥控,从而在无人时刻也能持续收集数据。
实质区别:它不再依赖人类编写任务代码,而是让大模型自主决定“做什么”和“怎么做”,实现了大规模无人值守的数据采集。
结果如何
- 规模验证:系统在4栋大楼中部署了20多个机器人,成功收集了7.7万条真实数据,证明了该方法能大幅提升数据采集效率。
- 有效性验证:将收集到的数据用于微调RT-1模型,模型在“从不同高度抓取”和“擦拭”等新任务上的成功率从0%提升到了12.5%和30%,证明了这些数据确实能提升机器人的能力。
最后记住
这篇论文的核心贡献是证明了利用大模型(LLM/VLM)可以实现机器人数据的规模化“自产自销”。主要局限在于大模型生成的任务偶尔会不安全或不可行,仍需人类监督。对于关注机器人如何摆脱人力依赖、实现规模化训练的研究者来说,非常值得精读。
4.VoLo: A Physical Orchestrator for Open-Vocabulary Long-Horizon Manipulation
基础信息
- 题目:VoLo: A Physical Orchestrator for Open-Vocabulary Long-Horizon Manipulation
- 时间:2026
- 机构:NVIDIA, University of Michigan
- 关键词:Physical Orchestration, Long-Horizon Manipulation, VLA
https://arxiv.org/pdf/2606.07723
一句话总结
作者为了解决机器人在执行长周期、开放式指令任务时容易出错且难以恢复的问题,提出了一种名为 VoLoAgent 的“物理编排器”,实验证明该方法在复杂任务上的成功率远超现有的 VLA 或代码生成方法。
为什么要做
现有的 VLA 或 VLM 方法通常是一次性生成动作或代码,缺乏在物理世界中实时监控和纠错的能力。一旦机器人动作出错(如抓错物体),现有方法往往无法察觉或无法从中恢复,导致整个长任务失败。
做了什么
作者的核心方法是让 VLM 充当“总指挥”,将 VLA 模型、视觉感知工具和基础动作(如抓取、放置)都视为可随时调用的工具。
具体工作过程是:VLM 先拆解任务,然后指挥 VLA 执行动作;在执行过程中,VLM 实时监控画面,一旦发现 VLA 抓错东西或卡住,立即叫停,并灵活切换工具(例如调用感知工具重新定位,或调用基础抓取动作修正),而不是死板地等待 VLA 跑完。
这与以往将 VLA 视为不可中断的“黑盒”有本质区别,它实现了对物理动作的动态干预。
结果如何
在包含126个任务的 RoboVoLo 基准测试中,VoLoAgent 的平均成功率达到 41.8%,显著高于纯 VLA 模型的 12.6% 和代码生成方法的 15.6%。
在真实机器人实验中,VoLoAgent 的成功率(42.9%)也是基线模型(14.3%)的约 3 倍,证明了其在物理世界中纠错的有效性。
最后记住
这篇论文最大的贡献是提出了“物理编排”概念,证明了让 VLM 动态管理并干预 VLA 比单纯使用更强的 VLA 更有效。
主要局限在于依赖云端 VLM 导致反应速度较慢(1-5秒延迟),且目前仅验证了单臂操作。
如果你想研究如何让机器人具备“边做边看边改”的能力,这篇论文非常值得精读。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)