26年8月来自美国东北大学和微软研究院的论文“Self-Evolving Embodied Agents via Skill-Harness Evolution”。

具身智能体越来越多地被构建成围绕基础模型的系统,其性能不仅取决于模型权重,还取决于模型周围的技能、上下文、动作接口和执行驾驭。虽然监督式微调和强化学习可以使智能体适应新环境,但它们需要额外的数据、奖励和训练次数;同时,许多无需训练的、以代码为中心的方法依赖于可编程机器人API,而这些API在固定接口环境中可能无法使用。SHAPER,是一个用于无需训练的具身自适应的自演化框架,它保持模型参数不变,并通过目标环境的演化来改进非参数智能体系统,从而演化出可重用的技能和上下文代码驾驭。在SHAPER中,同一个冻结的模型可以同时作为规划器和优化器,在不更新参数的情况下改进其外部技能和上下文代码驾驭。在 VLABench 和 ESI-Bench 上评估 SHAPER,涵盖了具有不同底层动作接口的具身智能体,并将其与纯执行、监督式微调以及测试时间扩展等基线方法(例如无验证者选择和投票)进行了比较。结果表明,当模型训练成本高昂、不可行或不理想时,技能-和-驾驭的优化是实现具身智能体自演化的实用途径。


具身人工智能正日益从孤立的策略模型转向智能体系统。近期的视觉-语言-动作模型和多模态基础模型表明,大型预训练模型能够感知场景、理解指令、推理物体和空间关系,并在模拟或物理环境中行动(Kim et al. [2025], Black et al. [2024, 2025], Physical Intelligence et al. [2026], NVIDIA et al. [2025], Gemini Robotics Team et al. [2025], Yuan et al. [2026])。与此同时,关于智能体脚手架、智能体-计算机接口、驾驭优化和机器人技能发现的研究表明,智能体的行为并非仅由模型决定(Yang et al. [2024], Chen et al. [2026], Pan et al. [2026a], Lee et al. [2026], Lou et al.)。 [2026]、Ju [2026]、Lu [2026]。已部署的具身智能体由模型外部组件构成,包括可重用技能、上下文构建、动作接口、输出解析和执行包装器。这些非参数选择在具身环境中尤为重要,因为智能体必须在部分视觉反馈下通过受限的动作接口进行操作。

调整具身智能体的常用方法仍然是更新模型参数。监督式微调 (SFT) 和强化学习 (RL) 后训练可以提高具身智能体的性能[Open X-Embodiment Collaboration [2023]、Khazatsky [2024]、Guo [2025]、Lu [2025]、Pan [2026b]、Physical Intelligence [2025],但需要访问模型权重、特定任务的演示或奖励,以及额外的优化。当模型权重不可用或交互数据稀缺时,这些要求限制了自适应。这就引出了一个补充问题:如何在不更新参数的情况下,使一个强大的、冻结的具身智能体适应目标环境?

无需训练的具身自适应提供了一条不同的路径。最近的智能体机器人系统表明,程序性知识可以存在于模型之外:语言模型可以编写机器人程序、修改失败的执行,并在不直接改变神经权重的情况下积累可重用的技能(Ahn [2022]、Liang [2023]、Huang [2023]、Wang [2023]、Ju [2026]、Lu [2026])。然而,这些进展大多将可执行代码视为动作基础。智能体通过生成或修复调用机器人特定 API 的程序来改进(Liang [2025])。 [2023]、Lu [2026] 的研究表明,当 API、调试钩子和执行监视器可用时,这种方法非常有效。然而,在许多具身环境中,这些接口可能缺失、不完整或难以暴露,智能体可能不得不通过固定或受限的动作空间来行动。这就引出了一个问题:如何通过改进规划器端的程序指导和上下文(而非合成底层控制程序)来系统地调整具身智能体的行为?

如图 1 所示, SHAPER,是一个无需训练即可实现具身自适应的自演化框架。关键区别在于自适应改变的是什么。SFT 和 RL 通过反向传播将演示或奖励转化为模型权重的更新;而 SHAPER 则将少量目标环境轨迹和结果转化为可重用技能和上下文代码驾驭的修订,同时保持规划器和执行器的权重不变。在此,“技能”指的是一段程序性指导,它可以是自然语言、操作指南、故障恢复规则或任务分解策略。上下文代码驾驭决定了哪些观察结果、先前操作、执行结果和反馈会被呈现给规划器,以及它们的组织方式。在两个不同的角色中复用同一个冻结的VLM检查点。在环境交互期间,它充当上层规划器。在演化过程中,它会被单独提示为工件优化器,根据汇总的部署反馈来修改文本技能和上下文代码驾驭。这两个角色共享模型权重,但使用不同的提示和输入。因此,智能体可以在保持其模型参数不变的情况下演化其外部技能和上下文构建。
请添加图片描述

1. 无需训练的智能体分解

现代具身智能体很少是单独使用的单一神经策略。如图 2A 所示,将具身智能体分解为四个系统组件:VLM 规划器 M_θ、执行器 A_φ、可重用技能 s 和上下文代码驾驭 h。执行器可以是 VLA Actor 或环境动作 API 的封装器。技能是规划器提示中的文本程序指导,涵盖场景检查、任务分解、子目标选择、恢复和终止。驾驭是一个上下文构建器(以 Python 函数的形式实现,例如 build_context),用于选择和格式化规划器的轨迹历史。动作接口、输出解析器和执行器保持不变。
请添加图片描述

对于任务指令 g、当前观测值 o_t 和轨迹前缀 τ_<t,智能体按如下方式运行:

y_t ∼ M_θ(· | g, o_t, s, h(τ_<t)),
a_t = A_φ(y_t, o_t), θ, φ 冻结;s, h 优化

这里,y_t 包含规划器的推理过程和一个界面级命令,A_φ 将该命令映射到已执行的动作 a_t。无训练自适应冻结参数化组件 (θ,φ),仅优化模型-外部对 c = (s, h)。

设 E 为具有任务分布 D 的部分可观测具身环境。候选 c 在任务 g ∼ D 上的展开包含 T 个已执行的动作和 T + 1 个观测值:

τc(g) = (o_0, y_0, a_0, …, o_T−1, y_T−1, a_T−1, o_T, R),

其中 R ∈ [0, 1] 是任务级奖励或成功信号。SHAPER 旨在寻找能够最大化预期展开性能的工件。

2. 基于推演-引导的文本诊断

在第 r 轮优化中,每个候选方案都会在一个较小的目标-环境批次 Dr_tr 上进行评估。具身化的部署流程可能包含大量前后对比图像,这使得直接进行批次级诊断过于依赖上下文信息,难以确定究竟是哪个操作导致了故障。图 2B 展示提出的分层替代方案。

首先,回合级判断器会将每个规划器的响应和操作与执行前后立即观察的结果进行比较:

qc_t(g)=Judge(o_t,y_t,a_t,o_t+1), t=0,…,T −1.

这些局部判断可以识别诸如子目标错误、进度不足或执行器不匹配等问题,而无需让优化器接触完整的视觉轨迹。

然后,构建紧凑的非视觉元数据 mc(g),其中包括已发出的命令、执行时长和运行时错误。一个事件摘要器会将这些元数据与终端驾驭上下文、回合判断和最终结果相结合。来自批次和聚合执行统计信息的摘要构成文本梯度。

由此得到的 Γ© 揭示可操作的跨轮模式,例如无益的重复、指令偏移、缺少进度跟踪、有害的上下文以及解析或 API 错误。

3 两阶段的技能-驾驭演化

SHAPER 从 c_0 = (s_0 , h_0 ) 开始,维护一个候选集 B_r。如图 2C 所示,规划器使用的同一个冻结基础模型在单独的优化器提示下被调用。基于当前候选、其文本梯度和优化历史 L_<r,优化器提出

c′ = (s′,h′) ∼ O(c,Γ©,L_<r),

其中 O 表示此优化器角色。用两阶段调度:技能演化首先在种子驾驭固定的情况下更新 s,之后驾驭演化在选定技能固定的情况下更新 h:

s′ ∼ O_s(s, h_0, Γ, L), h′ = h_0,
h′ ∼ O_h(s⋆, h, Γ, L), s′ = s⋆.

生成的驾驭在部署前会进行沙盒测试:它们必须定义所需的上下文函数,避免导入、文件 I/O 和动态执行,并在超时时间内完成。无效的候选方案会被拒绝,其验证错误会作为优化器反馈返回。有效的候选方案会在固定的验证集 D_val 上进行评估,最终beam会保留得分最高的 K 个候选方案和提议方案。

最终输出是所有轮次中得分最高的候选方案 c⋆ = (s⋆ , h⋆ )。它保留了冻结的规划器和执行器,仅更改规划器的文本指导和构建的上下文。


1 实验设置

基准测试。VLABench Zhang [2024] 开发一个语言条件操作基准测试,旨在考察隐式语言理解、常识和世界知识迁移以及长时程推理能力,而这些能力在之前考虑的操作基准测试中均未得到充分体现。该测试的指令通常隐含而非明确陈述目标,并且任务实例会改变对象类别以测试泛化能力。

重点关注语义理解(测试从细微语言中恢复预期目标的能力)和常识与世界知识(要求将先验知识与观察的场景联系起来)。

如表 1 所示,C1–C4 是自定义的预留评估分组,而非 VLABench 的官方分组。C1 完全在领域内;C2 使用未见过的目标类别;C3 将任务形式更改为常识与世界知识;C4 则同时改变了这两项。每个单元格包含五个任务族,每个任务族包含 40 个预留的回合,因此每个单元格共有 200 个回合,总共 800 个回合。
请添加图片描述

ESI-Bench Hong [2026] 在一个涵盖 10 个任务类别的封闭感知-动作循环中评估具身空间智能。与被动空间问答不同,智能体必须通过感知、运动和操作主动获取初始视图中无法获得的证据。用一个包含 231 个问题的子集进行评估,该子集的采样比例与官方基准测试的类别比例相匹配,并报告总体准确率和类别级准确率。

模型和执行接口。所有智能体系统变体在评估时均使用 Qwen3.6-27B 作为冻结的上层规划器。在 VLABench 上,执行器是官方的 VLABench π0 检查点,它基于基准测试的十个基本任务类别进行了微调,并通过 OpenPI 提供服务。它接收一个文本子目标,并以五个动作为一组生成底层控制指令。上层规划器为每个子目标指定环境步骤预算,因此一轮规划器可以执行多个模块。一个回合最多允许 10 轮规划器和 400 个底层环境步骤。在 ESI-Bench 上,同一个规划器模型通过基准测试的固定交互 API 执行最多 30 个步骤。

优化协议。对于 VLABench,在 15 个训练回合上演化模型,并在一个固定的 24 回合验证集上选择候选模型;两者都与预留的 800 个评估回合不相交。对于 ESI-Bench,用 10 个训练问题和 10 个验证问题,所有这些都与 231 个问题的评估子集不相交。对于这两个基准测试,演化过程使用 4 轮宽度为 3、分支因子为 2 的束搜索,文本反馈由 4 次展开的小批量生成。首先优化技能,然后在保持演化后的技能不变的情况下优化框架。

比较方法。根据 VLABench 基线模型修改的内容对其进行分类。执行器级别的基线模型包括直接执行 π0 算法以及在相同的 15 个训练集上使用相同 Actor 架构进行 SFT 测试。测试时扩展包括直接应用于 VLA Actor 或基于种子规划器的 MG-Select(Jang [2025])和 VOTE(Lin [2025])。智能体系统自适应包括种子智能体、技能演化、工具演化以及完整的技能-驾驭演化。在 ESI-Bench 测试中,比较种子智能体、演化技能和完整版本,并将基准测试论文中的 GPT-5 被动单视图 (PS) 模型作为外部参考文献展示。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐