机器人的“直觉”是怎么炼成的?彻底搞懂具身智能双子星 Diffusion Policy 与 ACT
标签:具身智能 模仿学习 Diffusion Policy ACT 机器人控制 深度学习
如果你在 2026 年关注机器人和具身智能(Embodied AI),你绝对被斯坦福大学会炒虾、会叠衣服的 ALOHA 机器人,以及各种能穿针引线的灵巧手刷过屏。
当传统的强化学习(RL)在复杂的“灵巧操作(Dexterous Manipulation)”面前因为写不出奖励函数而疯狂吃瘪时,端到端模仿学习(End-to-End Imitation Learning) 站了出来,统治了目前的真实物理世界。
而在这个赛道里,有两座无法绕开的巅峰大山:
- ACT (Action Chunking with Transformers) —— 斯坦福 ALOHA 背后的“最强大脑”。
- Diffusion Policy (DP) —— 哥伦比亚大学、MIT 联合提出的生成式策略天花板。
今天,我们不堆砌晦涩的数学公式,用最直白的人话、最生动的比喻,把这两大神级算法的底层逻辑扒个底朝天!无论你是刚入坑的萌新,还是想做真机部署的算法工程师,这篇文章都能帮你彻底打通任督二脉。
一、 痛点:以前的 AI 为什么连个杯子都抓不好?
在讲这两大神器之前,我们必须先弄懂:以前的方法到底烂在哪里?
以前最经典的方法叫行为克隆(Behavior Cloning, BC)。它的逻辑很简单:输入当前摄像头的画面,神经网络直接输出下一步电机的角度。也就是“走一步,看一步”。
这导致了两个极其致命的灾难:
- 多模态灾难(“求平均值”直接撞碎杯子):
桌上有个水杯,你要绕过它去拿后面的苹果。人类示范时,有时从左边绕,有时从右边绕。
传统的神经网络(基于 MSE Loss)看到画面会怎么想?“左边对,右边也对,那我为了误差最小,取个平均值吧!”
结果:机械臂直挺挺地往前走,直接把水杯撞碎。 - 误差级联(帕金森般的抽搐):
因为是一步一步预测,上一微秒和下一微秒的预测往往不连贯,导致机械臂像抽筋一样疯狂抖动。
为了解决这两个千古难题,ACT 和 Diffusion Policy 各自带着绝招登场了。
二、 ACT:把动作当成“外语”来翻译
ACT 的全称是 Action Chunking with Transformers(基于 Transformer 的动作切片)。
它的核心思想是:不要走一步看一步,我要像用 ChatGPT 翻译外语一样,一次性把未来的一长串动作全部“翻译”出来!
ACT 拥有三大核心魔法:
魔法 1:动作切片(Action Chunking)
ACT 不再预测下一步动作,而是一次性预测未来连续的 kkk 步(比如 16 步或 100 步)轨迹。机器人闭着眼睛把这 100 步顺滑地执行完一小半,再睁开眼睛重新预测。这彻底消灭了“帕金森抖动”,动作如丝般顺滑。
魔法 2:CVAE 引入“风格盲盒”解决多模态
怎么解决“左绕还是右绕”的撞杯子问题?ACT 祭出了大招——条件变分自编码器(CVAE)。
ACT 认为,人类的操作是有“风格”的。它在网络里加入了一个隐藏变量 zzz(你可以理解为一个盲盒)。
- 抽到 z1z_1z1,代表“左绕风格”。
- 抽到 z2z_2z2,代表“右绕风格”。
执行时,算法先从高斯分布里随机抽一个盲盒 zzz,把它和图片一起喂给 Transformer。Transformer 看到 z1z_1z1 后,就会极其坚定地输出“从左边绕过去”的 100 步动作,绝不妥协取平均值!
魔法 3:时间集成平滑术(Temporal Ensembling)
假设每秒钟算法都在预测未来 100 步,那么对于“第 5 秒”这个未来的时刻,算法其实在前面几次预测中已经给出了多次预测值。
ACT 会把这些重叠的预测值进行加权平均(越新的预测权重越大)。这不仅容错了,还让最终输出的控制指令极其平滑,这就是 ALOHA 能丝滑颠勺的终极秘密。
三、 Diffusion Policy:像雕刻大理石一样雕刻动作
如果说 ACT 是个外语翻译家,那么 Diffusion Policy(扩散策略) 就是一个顶级雕刻家。它直接借用了 AI 画图(如 Stable Diffusion)的底层逻辑。
在 DP 眼里,未来 16 步的动作轨迹,就是一张“等待生成的图片”。
魔法 1:从“纯随机噪音”开始
DP 在脑海里不是直接输出动作,而是先生成一段完全随机的乱码(纯噪音)。这就像是一块刚从山上挖下来的、充满无限可能性的原始大理石。
因为初始噪音是纯随机的,它本身就打破了平衡,天然解决了“求平均值撞杯子”的问题。随机噪音偏左,就降噪成左绕;偏右,就降噪成右绕。
魔法 2:用“当前画面”作为图纸去降噪
机器人看着当前摄像头的画面(Observation),这个画面被 ResNet 提取成高维特征,作为降噪的“条件(Condition)”。
模型拿着这团杂乱无章的噪音,在图片的指导下,经过几十次循环擦拭(Denoising),一刀一刀地把噪音雕刻成了一段极其精准、合理的 16 步动作轨迹。
魔法 3:端到端的极致暴力美学
DP 完全抛弃了传统的“目标检测 -> 算坐标 -> 逆运动学”流水线。画面里不管是一根杂乱的充电线,还是一块柔软的面团,只要你给足了人类示范数据,它的扩散网络就能自己领悟物理规律,直接输出高维的关节角度!
四、 巅峰对决:ACT vs. Diffusion Policy 怎么选?
如果你手握一套旗舰级硬件(比如六轴机械臂 + 五指灵巧手),准备在实验室大干一场,你该选谁?我为你总结了硬核对比图:
| 对比维度 | Diffusion Policy (DP) | ACT (Action Chunking with Transformers) |
|---|---|---|
| 底层原理 | DDPM 扩散去噪模型 | CVAE + Transformer 编码解码 |
| 推理延迟 (Latency) | 较高。需要循环几十步去噪,对高频实时性控制有挑战(加速后需数十毫秒)。 | 极低。Transformer 前向传播一次出结果,几毫秒搞定,完美支持高频控制。 |
| 多模态表达力 | 天花板级别。能极其精准地拟合复杂的非高斯分布,上限极高。 | 较好。强行用 CVAE 高斯分布拟合,面对极端复杂任务有时会发生“模式坍塌”。 |
| 动作平滑度 | 极佳。生成过程天然平滑。 | 极佳。依靠独门绝技“时间集成(Temporal Ensembling)”强行平滑。 |
| 训练调参体验 | 省心。超参数相对不敏感,数据给够,Loss 一般稳稳下降。 | 玄学偏多。CVAE 和 Transformer 的结合较难训练,很容易训崩,需要调参经验。 |
| 适用场景 | 极度复杂的灵巧操作(打绳结、捏面团)、高维多模态融合(视觉+触觉)。 | 需要极速响应的任务(动态避障、接飞球)、双臂双手高度协同(如 ALOHA 炒菜)。 |
五、 给开发者的落地建议与实操路线
看到这里,你的手是不是已经痒了?如何快速在自己的硬件上跑通这两大神级算法?
- 别头铁手搓代码:千万不要从零写!强烈推荐直接使用 Hugging Face 开源的 LeRobot 框架,或者哥伦比亚大学原版的
diffusion_policy库。里面把 ACT 和 DP 的网络结构封装得极其完美。 - 跨越“工程地狱”:无论你选哪个算法,数据质量决定了论文和项目的上限。做真机部署时,你面临的最大敌人不是网络不收敛,而是时间戳没有对齐! 摄像头的 30Hz 和机械臂的 100Hz 如果差了 0.05 秒打包在一起,算法就会彻底精神分裂。推荐使用纯 Python 多进程(Multiprocessing)加共享内存,实现零延迟的数据采集。
- 从小任务开始:先别急着让灵巧手穿针引线。先在电脑上跑通官方的
PushT仿真小游戏,然后再到真机上做一个简单的“抓网球”任务。
结语
从“写规则算坐标”到“端到端看图出动作”,模仿学习正在以前所未有的速度重构具身智能的底层法则。
ACT 像是一个出拳极快、天下武功唯快不破的截拳道高手;
Diffusion Policy 则像是一个内功深厚、遇强则强、包容万物的太极宗师。
它们没有绝对的优劣,只有最适合你硬件与任务的解法。点赞收藏这篇文章,带上你的机械臂和数据手套,去炼制属于你的赛博大脑吧!
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐

所有评论(0)