在 AI 领域,过去一年“self-evolving agents”这个词突然变得非常流行。Hermes Agent 能自动生成可复用技能,Recursive Superintelligence 试图递归发现新算法,NVIDIA 在机器人上探索 agentic self-evolving,各种 auto-research 系统甚至能连续运行数百小时产出上百篇 AI 生成论文。

但当我们把这些工作放在一起看时,会发现一个尴尬的问题:大家都在用“self-evolving”“self-improving”“learning”“adapting”这些词,却很少有人把它们严格区分开来。它们到底在进化什么?反馈信号从哪里来?循环最终闭合在哪里?如果不厘清这些,研究方向就容易变成一锅粥。

我起初以为“自演化”就是一个统一的概念,后来仔细拆解这些工作后才发现,它其实可以清晰地分成三层,每一层进化的对象、驱动信号和难度都完全不同。这不是简单的分类游戏,而是理解当前 Agent 能力边界和未来演进路径的关键。

Model、Harness 与 Artifact:自演化系统的三要素

任何自演化系统都可以用三个核心要素来理解:

  • Model:通常指大语言模型,是 Agent 的“大脑”,负责理解和生成。
  • Harness:把模型变成真正 Agent 的外围系统,包括循环设计、记忆、工具、技能、权限、沙箱等。经典公式是 Agent = Model + Harness
  • Artifact:Agent 产出的具体成果,例如新发现的算法、生成的论文、新的机器人控制策略、优化的 GPU kernel 等。

这三个要素的连接很简单:Model + Harness 形成 Agent,Agent 再产出 Artifact。围绕这三个要素,我们就能把现有自演化工作清晰地归到三个不同层次。

第一层:Artifact 迭代优化(当前最主流的方向)

这一层最直观:用强大的 LLM 去反复生成和改进具体产出(Artifact)。

典型流程是:人类设定目标和评估标准 → Agent 提出改进方案 → 生成新 Artifact → 验证是否达标 → 不达标就继续迭代。AlphaEvolve 用编码 Agent 发现科学与算法问题,Analemma AI 的 FARS 系统连续运行 417 小时生成了 166 篇完全 AI 生成的论文,Recursive Superintelligence 则在寻找更好的 GPU kernel。

这种方式本质上是用 LLM 同时充当“操作符”和“优化器”。以前的神经架构搜索(NAS)需要人类手动定义搜索空间和算子,而现在 LLM 可以自己发明新候选方案、分析历史结果、决定下一步搜索方向,搜索空间和启发式能力都大幅提升。

目前大多数工作还停留在数字环境(代码库、浏览器、模拟器)。更具野心的方向是把循环延伸到物理世界:NVIDIA 让 Agent 通过真实机器人寻找新控制策略,LabOS 把 Agent 接入生物实验室,Qumus 则构建了量子材料实验系统。

类比一下,这就像一个不断迭代产品原型的公司:每次只优化最终交付的产品本身(Artifact),而不去改变内部的研发流程(Harness)或核心团队能力(Model)。短期见效快,但上限受限于当前 Agent 的生成与验证能力。

第二层:Agent Harness 自改进

这一层的核心动机是:模型训练成本极高,能不能在不更新模型权重的情况下,让 Agent 自己变强?

答案是肯定的,主要有两个子方向:

Prompt 与 Memory 层面
把有用的规则、经验提取出来,存到提示词、剧本(playbook)或记忆系统中。GEPA、ACE、Mem0 等工作都属于这一类。虽然它们常被叫“learning”,但其实只在修改 Harness,而非模型参数。

Tool 与 Skill 创建层面
仅靠文本记忆不够时,Agent 需要生成可复用的工具或技能(Skills)。Hermes Agent、Alita、Mem-UI 等工作都在做这件事。Claude Code 已经把 Skill 变成现代 Agent 的标配组件。Skill 本质上是更高阶的上下文管理,能显著降低单次上下文长度。

当单个 Agent 积累的工具和技能越来越多时,会出现效率和语义混乱问题(比如一个 Agent 同时处理股票和烹饪,容易把“squeeze”搞混)。这自然催生了多 Agent 自演化方向:用路由器把任务分配给不同专家 Agent(例如 Eevee 的做法)。路由本身也需要强模型支持——人类专家最擅长的其实也是“把任务路由给合适的人”。

这一层和第一层的本质区别在于:它在改进 Agent 自身,而不是只优化 Agent 产出的结果

第三层:Model 无金标准答案下的学习

这是最“硬核”的一层:真正更新模型权重。

难点在于没有干净的 ground truth,只有问题、弱信号或环境交互。常见方法包括:

  • 用模型自身生成伪标签或内部置信度信号进行自训练(self-training、TTRL)
  • 通过自博弈(self-play)或环境交互获取信号(SPIN、Absolute Zero 等)
  • Test-time Training(TTT):在推理过程中让模型进行梯度式更新,相当于在运行时持续调整参数矩阵

这一层和传统的 Continual Learning 有联系,但今天的语境下含义已发生变化。以前 Continual Learning 主要解决灾难性遗忘,现在更多指向 Agent 在部署后持续从弱信号中学习。

三层对比与边界模糊

下面用一张表格把三层核心差异整理清楚:

维度 Artifact 迭代优化 Harness 自改进 Model 无监督学习
进化对象 最终产出(算法、论文、策略) Agent 的外围组件(prompt、memory、tool、skill) 模型参数本身
是否改权重
反馈信号 明确评估函数 / 验证器 规则提取、复用效果、任务完成度 伪标签、内部置信度、环境奖励
循环闭合位置 Artifact 质量 Agent 自身能力 模型能力
当前成熟度 最高(已大规模 demo) 中等(工具/技能已实用化) 较低(仍在探索强信号)
扩展难度 相对容易 中等(需解决路由与上下文管理) 最高(需解决稳定学习与遗忘)
物理世界潜力 正在兴起 较高 最高但最难

三层之间的边界正在变得模糊。优化一个 kernel 时,你可能会同时改进搜索策略(Harness)和底层模型能力(Model)。未来更可能的发展是三者协同进化:更强的 Model 能构建更好的 Harness,更好的 Harness 能更快地搜索优质 Artifact,而优质 Artifact 又能反哺 Model 的学习。

最终价值:循环闭合在哪里?

自演化 Agent 的意义,最终要看循环闭合在哪里:

  • 闭合在 benchmark 上 → 得到更强的 benchmark solver
  • 闭合在代码上 → 得到更好的软件和算法
  • 闭合在科学研究上 → 可能加速新发现
  • 闭合在物理世界 → Agent 可能成为构建和改进真实系统的新范式

“世界仍是 Agent 最难的环境,也可能是它最有价值的地方。”

我起初以为自演化只是“让 Agent 自己写代码、自己改进提示词”这么简单,后来才意识到,真正的分水岭在于进化对象到底是结果、是系统,还是模型本身。这三个层次代表了从工程加速到系统智能再到基础能力演进的三条不同路径。


在你目前接触的自演化 Agent 工作中,它主要落在上面哪一层?或者你认为未来三层最有可能融合的方向是什么?欢迎在评论区分享你的观察。

我是紫微AI,在做一个「人格操作系统(ZPF)」。后面会持续分享AI Agent和系统实验。感兴趣可以关注,我们下期见。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐