PhysEvo:Astra可以行动,就让它行动吧
26年10月来自中科院大学、中科院自动化所和清华的论文“PhysEvo: Astra Can Act, Let It”。
PhysEvo 对“冻结大模型如何通过改造自身的机器人软件系统获得更强能力”给出了有价值的实证;但对“递归机制本身能否持续提高自我改进效率”,证据仍然不足。 最值得借鉴的是它如何把物理失败转化成可测试、可继承的工具与技能修改。
如图 1 所示PhysEvo 中的物理 RSI:执行、诊断、修订、测试与继承。

方法的核心:学习发生在模型外部的软件系统中。
PhysEvo 固定 Astra 的模型权重,让同一个模型承担两种角色:
- Task agent:执行任务。 根据图像、机器人状态、技能说明和当前记忆,选择动作或观察工具。
- Meta-agent:改进系统。 查看执行轨迹与代码,诊断失败,修改工具、技能、执行逻辑,以及自身使用的诊断工具。
论文将模型与机器人之间的这一层软件称为 驾驭(harness),可理解为“观察、控制、记忆和工具调用的运行框架”。系统在第 r 轮的可持续状态为:
H_r = (H_r^{task}^, H_r^{meta}^), theta 保持不变
因此,经验被保存在代码、技能文档和诊断资源里。虽然权重不变,但模型获得的信息、可采取的动作以及使用工具的指导都发生变化,整个系统的行为能力随之改变。
如图 2 所示PhysEvo 中的物理 RSI(物理具身自我改进)。一个处于冻结状态的 Astra 智能体通过任务交互接口(task harness)发挥作用,并根据执行反馈对任务资源和元资源进行修订。这些已采纳的修订将支持后续的实验回合与改进迭代。

其基本过程是:

这里有三个容易混淆的时间尺度:
| 时间尺度 | 允许发生什么 | 信息如何保留 |
|---|---|---|
| 一次任务内部 | 观察、动作、回看历史、纠错 | 当前任务的记忆 |
| 开发阶段的任务之间 | 修改工具、技能和诊断资源 | 持久化框架版本 |
| 仿真最终评测 | 使用固定版本执行新布局 | 不允许继续修改持久资源 |
开发阶段,候选版本与原版本在同一任务、同一初始场景上比较。分数提高,或者突破原失败点且分数不下降,可以支持采纳;分数下降则拒绝。修改在下一次任务开始时生效。(§3、附录 A)
模型框架中,最重要的是三类能力的共同演化。
| 模块 | 具体机制 | 解决的瓶颈 |
|---|---|---|
| 关节级控制 | 默认接口接受双臂共 12 个绝对关节角目标,以及两个夹爪命令 | 末端目标正确,但局部逆运动学选出了阻碍操作的手臂姿态 |
| 主动与历史观察 | 移动空闲手臂获取腕部视角;检索本次任务过去的图像和状态 | 当前视角被遮挡,或关键事件已经过去 |
| 几何工具 | 模型选择图像特征,确定性工具完成投影、多视角或时序三角测量 | 将视觉判断转化为可用于控制的空间信息 |
| 技能与诊断资源 | 保留操作指导,以及对齐图像、状态、决策的回放工具 | 同类错误反复发生,或无法追溯失败原因 |
两个技术细节值得强调。
首先,关节级控制并不等于大模型直接输出高频电机力矩。模型给出关节位置目标与运动段长度,由执行器落实动作、检查限制和跟踪情况,再返回反馈。
其次,几何工具没有读取隐藏的物体坐标。模型需要选择像素点或对应特征,工具结合相机标定和机器人几何进行计算。时序三角测量还要求目标点静止,并具有有效的相机平移基线。(§4、附录 C、F)
论文中的倒水案例很好地说明了这种架构:瓶子挡住持瓶手臂的腕部相机后,修改技能,让另一只手臂持续提供侧视图。随后模型可以检查瓶口、杯沿和液体落点,并修正动作。这里改进的是动作过程中获取证据的方式,而不只是某个动作参数。
它的贡献,主要体现在系统组织与经验继承上。
有三点比较扎实:
- 将动作接口本身纳入改进对象。
失败不一定来自规划错误,也可能来自接口无法表达需要的动作。把“选择末端位置”扩展为“选择手臂姿态”,改变了模型能够执行的策略范围。 - 把观察策略与操作技能一起改进。
在物理操作中,动作会改变可见性。PhysEvo 能将“什么时候换视角、什么时候回看、什么时候使用几何”写入技能,形成更完整的闭环。 - 让改进工具也成为可以继承的经验。
装箱案例中,meta-agent 重用了之前编写的轨迹查看工具,将“箱子被推远”追溯到手腕或夹爪碰到箱盖,然后加入“先抬高越过箱盖再转动”的指导。这是论文支持“递归”这一说法的关键实例。(图 5)
据此,可以把它的 RSI 分成三个层次:
| 层次 | 论文提供的证据 |
|---|---|
| 利用反馈修正下一步动作 | 明确实现 |
| 修改并继承工具、技能,提高后续执行能力 | 有实验和案例支持 |
| 修改改进机制,使以后学得更快、更好 | 有工具继承案例,缺少系统量化 |
所以,论文展示了“改进过程可以修改自身资源”的结构,但尚未证明这种递归会带来持续增强的改进速度。
实验结果确实有提升,但需要按正确口径理解。
| 评测 | PhysEvo 成功率 | 参考结果 | 解释边界 |
|---|---|---|---|
| 42 个仿真任务,五个能力维度等权 | 62.00% | RoboDawn 47.17% | 提高 14.83 个百分点 |
| 同样 42 个任务,任务等权 | 58.57% | — | 更接近全部任务的平均成功比例 |
| 10 个任务 | 68.00% | Direct Astra 26%;Astra–π0.5 48% | 各方法结果来自对应报告 |
| 8 个 Direct Astra 困难任务 | 55.00% | Direct 1.25%;Simate-beta 50.83% | 是外部预先定义的困难子集 |
| 5 个真机任务,共 25 次 | 84.00% | 无对应真机对照 | 允许部署后继续修改技能 |
这里最有意义的比较是相对 RoboDawn 的提升,因为后者已经使用闭环反馈和示例。不过,优势并不覆盖所有能力维度:
- 记忆:100% 对 53.33%,提升最大。
- 开放指令:80% 对 62.5%。
- 精密操作:40% 对 25%。
- 长程任务:均为 45%。
- 泛化维度:45% 对 50%,PhysEvo 略低。
困难子集也存在明显短板:搭塔只有 20% 成功率,收纳笔记本与耳机、放满笔筒均为 0%。因此,结果更支持若干接口、观察和记忆瓶颈得到缓解,尚不能说明复杂操作能力被普遍解决。(表 1–3)
主要问题是:最终性能的证据,比递归机制的因果证据更强。
第一,缺少直接隔离“递归贡献”的对照实验。
最终系统同时改变了控制接口、观察工具、技能和诊断资源。论文没有充分区分:性能提升究竟来自更好的最终框架,还是来自能够自改诊断工具的递归过程。
最关键的缺失对照是:在相同预算下,比较“只允许改任务框架”与“同时允许改任务框架和元框架”。否则,一个好的固定诊断工具是否也能达到相同结果,仍然未知。
第二,评测主要验证已开发任务的新布局泛化。
每个任务都保留自己的部署版本,任务专属技能也保持任务局部。这是合理的任务适配协议,但不能直接推出:
- 一个统一版本能够完成全部任务;
- 在未见任务上仍能保持同样优势;
- 技能能够自动组合到新的长程任务;
- 新任务的改进不会损害旧任务。
论文明确排除了评分布局参与修改,这一点值得肯定;但“布局留出”与“任务留出”仍是不同强度的泛化检验。
第三,样本量与消融规模较小。
每个仿真任务只有 5 个布局,每个真机任务只有 5 次试验,单任务成功率的一次成败就相差 20 个百分点。
关节接口对照更加有限:仅一个任务、两个布局、三种接口,共 6 次执行。其平均分为 TCP 40、Joint 100、Both 55,足以提示接口设计的重要性,却不足以证明关节控制普遍优于更强的逆运动学或运动规划方案。尤其是 Joint 优于 Both,也可能涉及工具选择负担和使用指导,而非单纯的控制能力差异。
第四,自我改进的成本与可复现性披露不够。
论文给出了流程,但没有完整报告每任务开发尝试数、候选修改数量、采纳率、token 成本、墙钟时间,以及人工介入情况。对 RSI 来说,这些直接决定方法是否有效率。
“无需更新权重”并不代表没有学习成本;成本转移到了交互、推理、代码修改和测试上。外部基线也没有在统一开发与推理预算下重新比较。
第五,真机实验支持持续适配,尚不足以量化 sim-to-real 收益。
真机部分继续修改技能,得到了液流补偿、先视觉粗接近再近距离几何定位等策略。但缺少“原始框架”“仿真演化后直接部署”“真机继续演化”三者的对照,无法分解收益来源。
此外,25 次试验中哪些属于适配过程、哪些是在最终固定版本上的独立评测,叙述仍需要更明确;倒水所需液量、书写正确性的判定程序也有进一步标准化空间。
第六,长期运行所需的更新约束尚未充分验证。
当前采纳规则主要检查局部任务收益。一个修改可能改善装箱,却损害其他技能;也可能提高完成分数,却增加碰撞、动作时间或不必要的试探。执行器限制和运动检查已经存在,但还需要跨任务回归测试与物理风险指标,才能支持长期自主演化。
下一步最值得做的,是证明“元层改进能够迁移,并提高学习效率”。
如果以延续这篇论文的研究为目标,按下面的优先级推进:
| 方向 | 具体实验 | 要回答的问题 |
|---|---|---|
| 递归机制消融 | 固定框架、只改技能、可改任务框架、可同时改元框架;统一交互与推理预算 | 改进自身诊断能力究竟贡献多少? |
| 元工具跨任务迁移 | 在任务集 A 演化诊断工具,转到未见任务集 B;不携带 A 的专属技能 | 学会的是任务答案,还是更好的学习方法? |
| 统一版本与持续学习 | 顺序学习多任务,定期评测全部旧任务,禁止各任务回退到不同历史版本 | 是否能累积能力而不发生明显退化? |
| 不确定性感知的主动观察 | 根据遮挡、几何一致性和执行误差决定换视角、回看或重定位 | 能否把个案观察规则推广成通用决策机制? |
| 真机受约束更新 | 候选修改先通过跨场景测试,再小规模部署;同时记录碰撞、耗时和人工接管 | 改进是否可靠、经济且可持续? |
| 演化经验与策略学习结合 | 将成功轨迹和技能蒸馏到较小策略,大模型负责诊断和新技能开发 | 能否保留适应性,同时降低执行延迟和成本? |
其中,最好是做“元工具跨任务迁移”。一个清晰的实验是:
让系统先在倒水、装箱等任务上演化诊断资源,然后把这些资源交给新的插接、整理任务;与使用初始诊断工具的系统比较,在相同预算下测量:
- 达到指定成功率需要多少次物理试验;
- 提出的修改有多少真正有效;
- 每次有效改进需要多少时间与模型调用;
- 新工具是否降低了错误诊断和旧任务退化。
如果这种优势能在多个未见任务上复现,PhysEvo 就能从“自我修改产生了一个更好的机器人框架”,进一步支持更强的结论:物理经验可以积累为可迁移的自我改进能力。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)