过去两年,大模型身上发生了一个很重要的变化:它的输出正在从 Token 变成 Action

以前让大模型“帮我整理一下 Excel”,它最多生成一段操作说明;后来有了 Tool、Computer Use 和各种 Agent Runtime,模型开始可以自己判断该调用什么工具、修改什么文件、点击什么位置,再由底层程序真正执行这些动作。模型仍然没有亲自去修改 xlsx 文件的二进制,也没有直接控制鼠标的电信号,但这并不妨碍我们说,它已经开始操作软件。

这也是今天理解 Physical AI 最重要的切入点。

如果浏览器、数据库、文件系统可以成为 AI 操作的对象,那么机械臂、显微镜、实验仪器、生产设备,甚至一整具机器人的身体,能不能也进入同样的链路?

这个问题乍看是在问“AI 能不能控制硬件”,但真正值得追问的是另一件事:当模型不再只是描述现实,而开始决定现实世界中的下一步 Action,它究竟已经进入了控制链路多深的位置?

过去两年的一些进展,已经让这个问题从想象变成了现实的工程问题。


一、真正的分界线,不是硬件里有没有 AI

今天带 AI 的硬件已经很多了,但“硬件用了 AI”和“AI 在控制硬件”其实是两件不同的事情。

假设一台农业设备用摄像头识别杂草,模型输出:

weed = true

随后传统程序执行:

if weed:
    open_nozzle()

这里当然使用了 AI,但 AI 承担的主要是感知:它负责判断眼前是不是杂草。至于“发现杂草之后应该打开喷嘴”,仍然是开发者事先写好的确定性规则。

换一种系统,情况就不一样了:

Sensor State
     ↓
Learned Model / Policy
     ↓
Action
     ↓
Safety / Controller
     ↓
Actuator

在这条链路里,模型回答的不再只是“我看到了什么”,而开始回答“机器下一步应该做什么”。

这可以作为判断 AI 是否真正进入硬件控制链路的一个实用标准:如果拿掉模型以后,系统仍然可以按照预先写好的逻辑决定下一步动作,那么 AI 更多承担的是感知、预测或者辅助决策;如果 Learned Model 本身开始根据当前状态生成或选择下一步 Physical Action,那么它就已经进入了控制决策链。

这里很容易产生另一个误解:既然叫 AI 控制硬件,是不是必须让模型直接产生 PWM、电流或者电机驱动信号?

并不是。

软件 Agent 已经给出了一个很好的类比。一个 Agent 修改 Excel 时,真正执行文件操作的仍然是 Python、JavaScript、Office API 或文件系统;模型决定的是修改哪个 Sheet、哪个 Cell、写入什么内容。我们不会因为最后执行 write() 的是传统代码,就认为 Agent 没有操作文件。

物理系统也是一样。更现实的结构通常是:

AI / Learned Policy
       ↓
目标 / Action
       ↓
Safety Layer
       ↓
Motion / Low-level Controller
       ↓
Motor Driver
       ↓
Actuator

底层控制器继续负责稳定性、实时性和确定性执行,安全系统继续限制危险动作,而模型负责越来越多过去需要人工提前编写的决策。

因此,判断 Physical AI 发展到了哪一步,真正应该观察的不是“最后控制电机的是不是神经网络”,而是:机器的动作决策权正在向模型转移到什么程度。

沿着这条线看,2025 年之后出现的一些变化就很值得注意了。


二、从理解现实,到开始产生现实中的动作

Learned Policy 输出机器人动作并不是 2025 年才出现的技术,Vision-Language-Action Model 也有更早的发展历史。因此,如果简单地说“2025 年 AI 第一次开始控制机器人”,显然是不准确的。

真正值得关注的是,Gemini 这样的通用多模态基础模型体系开始进一步把 Physical Action 纳入输出空间

2025 年 6 月,Google DeepMind 发布 Gemini Robotics On-Device。它是一个能够直接运行在机器人本地的 Vision-Language-Action Model,接收视觉信息、自然语言指令和机器人状态,并输出机器人动作。DeepMind 展示的任务包括拉开拉链、叠衣服等精细操作,本地运行也使它更适合延迟敏感或者网络连接不稳定的机器人场景。

到了 2025 年 9 月的 Gemini Robotics 1.5,DeepMind 对这种变化描述得更加直接:模型会把视觉信息和人类指令转换成机器人使用的 motor commands,并让机器人完成感知、规划、工具使用和多步骤物理任务。

传统视觉模型的角色更接近:

Camera → Model → “杯子在桌子左边”

而 VLA 试图建立的是:

Camera + Language + Robot State
              ↓
             VLA
              ↓
           Action
              ↓
         Robot Motion

这两者之间真正重要的区别,不是模型对杯子识别得更准,而是模型输出的东西变了。

过去,模型主要负责建立关于现实世界的表示;现在,它开始把这种表示继续转换成会改变现实状态的动作

2026 年 7 月发布的 Gemini Robotics 2 又把这个问题往前推了一步。DeepMind 表示,它可以把视觉和语言输入转换为 motor control,而且控制对象已经从传统的双臂机器人进一步扩展到完整人形机器人。官方展示的能力包括行走、下蹲、伸展身体、抓取和操作物体,并用 “from feet to fingertips” 来描述其 whole-body control;在手部操作上,模型还可以控制具有 22 个自由度的五指机械手,完成打结、封闭密封袋等任务。

这里真正值得注意的,不只是机器人多学会了几项动作,而是模型能够参与决策的 Action Space 正在扩大:从夹爪和机械臂,逐渐扩展到腿、躯干、手臂、手和手指组成的完整身体。

与此同时,高层推理与动作执行也没有因此被粗暴地塞进一个模型里。DeepMind 将 Gemini Robotics ER 2 用于空间、时间和物理世界的推理及长任务规划,再由 Gemini Robotics 2 把目标进一步转化为机器人动作。

于是,一个越来越清晰的分层开始出现:

Reasoning / Planning
        ↓
Physical Action
        ↓
Safety / Controller
        ↓
Hardware

这和软件 Agent 的架构其实已经很接近:模型负责理解当前状态并决定下一步,Runtime 和底层系统负责把这个决定安全、稳定地执行出来。

但如果 Physical AI 的发展只停留在“让机器人拥有更大的 Action Space”,这个故事仍然主要属于机器人行业。

2026 年出现的另一些工作,开始把问题推向更大的范围。


三、当硬件也开始成为 Agent 可以调用的 Tool

2026 年 8 月,Anthropic 公布 Model Hardware Standard(MHS)的 research preview。这项工作的意义不在于又出现了一种机器人模型,而在于它试图解决一个更基础的问题:能不能给 AI Agent 一种相对统一的方式去操作现实设备?

软件世界过去已经走过一次类似的过程。数据库、浏览器、云服务和文件系统内部差异巨大,但对于 Agent 来说,它们可以被抽象成一组可理解、可调用的能力:

search_web()
query_database()
read_file()
write_file()

模型不需要理解数据库如何管理磁盘页,也不需要理解浏览器如何渲染像素。它只需要知道当前有哪些能力、调用它们需要什么参数,以及执行之后返回了什么状态。

MHS 探索的是把类似的抽象带到物理设备上。Anthropic 在 research preview 中列出的设备包括显微镜、液体处理设备和机械臂,并表示 Agent 可以并行操作多个设备,逐步推理实验流程、实时更新设备参数,并在部分场景下从硬件错误中恢复。

于是,Agent 面前的能力可能不再只有:

search_web()
read_file()

还可能出现:

capture_image()
move_stage(x, y)
set_temperature(value)
dispense_liquid(volume)

这几类 Action 在物理后果上当然完全不同,但从 Agent 的抽象视角来看,它们开始拥有相似的结构:观察当前状态,选择一个能力,传入参数,执行,然后根据新的状态继续决策。

MHS 到 2026 年 8 月仍然只是 research preview,远不能称为已经建立起来的工业标准,更不能据此认为现实设备已经普遍成为 AI 的 Tool。

但它透露出的方向很重要:AI 想进入现实世界,并不一定需要自己拥有一具完整的机器人身体。现实中本来就存在大量可以被程序控制的设备,只要这些设备进一步拥有 Agent 可以理解和调用的接口,它们本身就可能成为 AI 行动能力的一部分。

而实验室恰好是这种变化最容易发生的地方之一。


四、比“控制一台机器”更进一步的,是闭合整个物理反馈循环

Self-driving Laboratory 和 Autonomous Experimentation 并不是 2026 年才出现的概念。自动化实验、主动学习以及闭环材料发现已经发展多年,目前很多成功系统也仍然集中在边界明确的特定研究任务上。

但近年的发展越来越清楚地展示了一个结构:AI 不只是分析一次已经完成的实验,而是开始进入“决定下一次实验—执行—获得结果—再次决策”的闭环。

2026 年 7 月发表于 Communications Materials 的文章将 Autonomous Experimentation System 描述为让 AI 参与物理或计算实验设计、执行和分析闭环的系统。典型流程是:AI 分析已有数据,预测不同候选实验的结果,再选择下一次最值得执行的实验,并通过自动化设备真正执行。

普通 AI 科研助手更接近:

实验 → 数据 → AI 分析 → 给人建议

而 Autonomous Experimentation 建立的是:

实验数据
   ↓
AI 选择下一次实验
   ↓
自动化设备执行
   ↓
新的真实实验结果
   ↓
AI 再次决策
   ↺

看起来只是把 AI 从实验之后向前移动了一步,但系统性质已经发生了变化。

前一种情况下,模型主要在解释已经发生的现实;后一种情况下,模型的输出会决定接下来哪一个现实事件被主动制造出来

2026 年 6 月发表于 Scientific Reports 的 AutoLabs 提供了另一个具体例子。研究人员构建了具有自我纠正能力的多 Agent 系统,将自然语言实验指令转化为高通量 liquid handler 可以执行的实验协议。Nature Reviews Chemistry 同年发表的综述则把 Self-driving Laboratory 描述为已经从较窄的自动化工具逐渐发展为能够让算法提出、执行和解释实验的研究平台,同时也强调了当前在规模化、通用化等方面仍然存在的限制。

为什么实验室特别值得关注?

因为它本身已经高度机器化。液体处理设备、自动进样器、机械臂、传感器、相机和测量仪器原本就可以被程序控制。过去主要由研究人员决定下一步调用哪台设备、设置什么参数、做什么实验;现在真正开始变化的是,这层决策也逐渐有可能被模型接管。

因此,实验室展示的已经不只是“AI 控制一台硬件”,而是另一种更完整的 Physical Agent:

观察现实
   ↓
模型决策
   ↓
物理设备行动
   ↓
现实状态改变
   ↓
重新观察
   ↺

一旦这个循环闭合,AI 与现实世界的关系就从单向的“读取”变成了双向的“读取—行动—再读取”。


五、AI 甚至开始参与改进产生 Physical Action 的模型

如果把“模型决定机器人下一步怎么动”看作第一层,把“Agent 调用多种现实设备形成闭环”看作第二层,那么还有一类研究正在把这个循环再往外扩一层。

2026 年,NVIDIA、CMU 和 UC Berkeley 的研究人员公布了 ENPIRE。它研究的问题并不是简单地让 Agent 操作机器人,而是让 Coding Agent 根据真实机器人的执行反馈,继续改进控制机器人的 Policy。

传统机器人研发往往需要研究人员不断修改算法、训练模型、进行真机实验、观察失败,再根据结果继续调整。ENPIRE 尝试自动化其中的一部分:

Coding Agent
     ↓
修改 Policy / Algorithm
     ↓
真实机器人测试
     ↓
Action / Video / Result
     ↓
分析成功与失败
     ↓
继续修改
     ↺

NVIDIA Research 的官方资料显示,这套系统会让 Coding Agent 分析真实机器人的日志、视频和失败案例,修改训练基础设施或者算法代码,再重新进行真实机器人实验;研究页面展示了 Push-T、插针、切断扎带等真机任务。

这带来了一层很有意思的递进。

最传统的结构是:

人 → 编写控制算法 → 机器人

机器学习把它部分变成:

Learned Policy → 机器人

而 ENPIRE 探索的是:

Agent
  ↓
改进 Learned Policy
  ↓
真实机器人实验
  ↓
物理反馈
  ↓
Agent

也就是说,AI 不仅开始参与产生 Physical Action,还开始参与产生和优化那个负责 Physical Action 的模型本身

这距离“AI 自己完成整个机器人研发”当然还有很远,但它说明 Physical AI 的闭环并不一定只存在于任务执行阶段,也可能继续向模型开发和优化阶段延伸。


六、软件 Agent 和 Physical Agent 的差别,正在变得比想象中小

把前面的案例放在一起,一个很有意思的共同结构会浮现出来。

Browser Agent 的基本闭环是:

Screenshot / DOM
      ↓
AI 理解当前状态
      ↓
决定下一步 Action
      ↓
click / type / scroll
      ↓
页面状态改变
      ↓
重新观察
      ↺

Physical Agent 则是:

Camera / Sensor
      ↓
AI 理解当前状态
      ↓
决定下一步 Action
      ↓
Controller / Actuator
      ↓
物理状态改变
      ↓
重新观察
      ↺

两者在工程细节和风险等级上存在巨大差异,但抽象结构却高度相似。

过去模型观察 Screenshot 和 DOM,现在也可以观察 Camera 和 Sensor;过去 Action 是 click()type(),现在也可以是 robot action 或实验设备调用;过去 Runtime 改变的是 UI State,现在 Controller 和 Actuator 改变的是 Physical State。

从这个角度理解,Physical AI 就不只是“给机器人装上更聪明的大脑”。

它代表的是另一件更连续的事情:已经在数字世界里形成的 Agent Loop,开始向物理世界延伸。

而一旦这样理解,真正值得关注的对象就不再只有机器人。


七、真正可能发生的变化,是现实世界也开始拥有越来越多“接口”

软件世界之所以特别适合 Agent,并不只是因为软件没有重量,而是因为过去几十年的软件工程已经把大量复杂能力抽象成了机器可以调用的接口。

搜索可以是 search(),支付可以是 pay(),数据库可以是 query(),云计算可以是 deploy()。Agent 时代进一步做的事情,是让模型能够理解这些接口什么时候应该被调用,并根据返回结果继续行动。

如果类似的抽象逐渐发生在物理世界,情况就会变得很有意思。

机械臂可以提供抓取、移动和释放能力,显微镜可以提供移动载物台和图像采集能力,液体处理设备可以提供吸取、分配和混合能力,温控设备可以提供设置目标温度的能力。

这些 Action 并不处于完全相同的控制层级。有些是 grasp() 这样的高层 Skill,有些可能是轨迹或关节目标,VLA 还可以输出连续的 numerical robot actions。因此不能简单把所有 Physical Action 都理解成几个 API 函数。

但从 Agent 的角度看,它们正在出现一个共同特征:

现实中的能力开始变得可观察、可描述、可调用,并且可以把执行结果重新反馈给模型。

这可能比“某款人形机器人什么时候能叠衣服”更值得关注。

因为 AI 能把手伸进现实世界多深,并不只取决于机器人技术发展到什么程度。它还取决于现实世界中究竟有多少设备能够被数字化控制,有多少能力能够被抽象成机器可以安全调用的 Action,又有多少决策权最终愿意交给模型。

换句话说,真正的变量可能同时来自两边:一边是模型越来越会行动,另一边是现实世界越来越容易被机器调用。


八、但现实世界不会像软件世界一样轻易交出控制权

这里也是软件 Agent 与 Physical Agent 最重要的区别。

Browser Agent 点错一个按钮,很多时候可以刷新页面;Excel Agent 写错一组数据,可以撤销;数据库还有权限、事务、日志和备份。

物理世界却存在大量不可逆或者代价很高的 Action。机械臂碰撞可能损坏设备,实验仪器设置错误可能毁掉样本,一台具有重量和速度的机器人执行错误动作甚至可能直接造成安全风险。

因此,Physical AI 越深入现实世界,传统控制系统、安全约束和权限机制反而越重要。

Google DeepMind 在 Gemini Robotics 2 和 On-Device 2 的官方资料中都专门讨论了模型局限和安全问题;Gemini Robotics 2 也被定位为机器人系统中的 intelligence layer,而不是整个机器人控制栈。

这意味着相当长时间内,更现实的 Physical AI 很可能仍然是分层系统:

AI
理解 / 推理 / 规划 / 动作决策
             ↓
Permission / Safety
             ↓
Low-level Controller
实时 / 稳定 / 确定性执行
             ↓
Hardware

这并不意味着 AI 没有真正控制硬件。

软件 Agent 同样需要权限系统、Runtime 和确定性代码。关键从来不是执行链路里还有没有传统程序,而是:哪些决策已经交给模型,哪些决策仍然必须由人和确定性系统牢牢掌握。

而物理世界真正困难的地方,也许恰恰就在这里。

AI 获得一个 read_file() 权限,和获得一个 move_robot() 权限,从抽象上都叫 Tool;但它们的风险完全不在同一个数量级。

所以现实世界即使逐渐变成 Agent 可以调用的环境,也一定会比软件世界拥有更厚的权限边界、更严格的安全层,以及更多不能交给概率模型自由决定的动作。


九、AI 究竟能把手伸进现实世界多深?

回头看过去几年的变化,会发现这条路线其实比想象中连续。

最开始,大模型的典型输出是:

LLM → Token

模型改变的是屏幕上的文字。

后来有了 Tool 和 Agent:

LLM / Agent → Tool Call → Software

模型开始改变数字世界里的状态。

现在,VLA、机器人基础模型和各种 Physical Agent 又开始建立:

AI / Agent → Physical Action → Controller → Hardware

模型的决策第一次可以越来越直接地改变现实世界的状态。

而 Self-driving Laboratory 展示的下一步,则是把这个过程闭成循环:

AI
 ↓
Physical Action
 ↓
现实发生变化
 ↓
Sensor / Data
 ↓
AI
 ↺

Gemini Robotics 展示的是模型如何把感知和指令转化成机器人动作;MHS 探索的是如何让不同现实设备成为 Agent 可以调用的能力;Self-driving Laboratory 把模型放进了真实实验的决策—执行—反馈循环;ENPIRE 又进一步尝试让 Agent 根据物理世界的反馈去修改负责产生动作的 Policy。

这些技术目前处于完全不同的成熟阶段,距离现实世界被 AI 普遍自主操作也还很远。可靠性、实时性、安全、成本、泛化能力,以及 Physical Action 很难撤销的特性,都会让这条路比软件 Agent 更难走。

但一个更基础的变化已经可以看到。

过去,我们主要讨论的是AI 如何理解现实世界:识别图像、理解视频、预测物体、建立世界模型。

现在另一个问题正在变得越来越重要:

理解完以后,它能做什么?

当模型开始拥有 Physical Action,当实验设备和机器人开始拥有 Agent 可以调用的接口,当现实状态又能够持续反馈给模型时,AI 与现实世界之间原本单向的信息通道,就开始变成一个双向的行动闭环。

所以,“AI 能不能控制硬件”可能最终并不是最值得问的问题。

真正决定 AI 能把手伸进现实世界多深的,也许是两个同时发生的变化:

模型能够获得多大的动作决策权,以及现实世界最终会向它开放多少可以安全调用的接口。

软件世界过去几十年已经完成了一次大规模的 API 化,Agent 正在利用这些接口获得行动能力。

如果类似的事情开始发生在物理世界,那么 Physical AI 真正改变的可能就不只是机器人。

它改变的是 AI 与现实世界之间的关系:

现实不再只是模型需要理解的对象,也开始成为模型可以采取行动的环境。


参考资料

  1. Google DeepMind, Gemini Robotics On-Device brings AI to local robotic devices, 2025-06-24。
  2. Google DeepMind, Gemini Robotics 1.5 brings AI agents into the physical world, 2025-09-25。
  3. Google DeepMind, Gemini Robotics 2 brings whole body intelligence to robots, 2026-07-30。
  4. Google DeepMind, Gemini Robotics On-Device 2 Model Card, 2026-07-30。
  5. Anthropic, Previewing the Model Hardware Standard, 2026-08-27。
  6. Kusne & McDannald, Managing autonomous materials labs with multi-agent AI and its implications for the science of science, Communications Materials, 2026-07-08。
  7. Panapitiya et al., AutoLabs: cognitive multi-agent systems with self-correction for autonomous chemical experimentation, Scientific Reports, 2026-06-25。
  8. Canty & Abolhasani, The past, present and future of self-driving laboratories, Nature Reviews Chemistry, 2026-07-31。
  9. NVIDIA Research / CMU / UC Berkeley, ENPIRE: Agentic Robot Policy Self-Improvement in the Real World, 2026。
Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐