黄仁勋早已放话之言——AI 的下一场海啸叫“具身智能”。  


2018 年起,英伟达就悄悄把每一颗 GPU、每一行 SDK 都写成伏笔,只为今天让机器人“长”出身体、脑子和灵魂,形成一条从芯片到场景、从训练到部署的闭环生态。

一:2018年,启动具身智能战略:着手搭建机器人开发平台雏形。

2018 年 6 月:英伟达祭出 Isaac 机器人“宇宙大爆炸”

1:「钢铁之躯」——英伟达具身智能硬件版图

Jetson Xavier 是英伟达专为机器人应用打造的高性能计算平台。其核心搭载的 Xavier SoC 芯片内部集成超过 90 亿个晶体管,可提供每秒超过 30 万亿次浮点运算的强大算力。该芯片配备六类高性能处理器,包括基于 Volta 架构的 Tensor Core GPU(1 个)、八核 ARM64 CPU(1 个)、深度学习加速器 DLA(2 个)、图像处理器(1 个)、视觉加速器(1 个),以及各一个视频编码器和解码器。依托这一强大的硬件组合,Jetson Xavier 能够在边缘端同时实时运行多种复杂算法,全面支持从传感器数据处理、距离测量、定位与建图、视觉识别到路径规划等各类机器人关键任务。

2:让机器人“会思考”的魔法:一探强大软件生态

Jetson Xavier 的软件栈,被 NVIDIA 做成了一条“机器人产线”:

• Isaac SDK——打地基:现成的 API + 全套加速库,写算法像拼乐高。  
• Isaac IMX——搬现成家具:拿来即用的感知、定位、建图等算法模块,不用再从 0 造轮子。  
• Isaac Sim——试车场:高保真虚拟世界,边训练边把 Jetson Xavier 接进来做硬件在环,仿真一次,落地零磨合。

二:2022年具身智能布局:技术迭代与生态拓展

2022年3月,英伟达发布 Isaac Nova Orin 参考平台,为下一代机器人系统提供更强大、高效的开发基础。

2022 年 3 月,GTC 现场——英伟达把 AMR 的开发节奏直接按下了快进键:  
Isaac Nova Orin 参考平台登场,核心是两台 Jetson AGX Orin,合体输出 ≥550 TOPS 的暴力算力;再配上一整套为新一代移动机器人量身定制的传感器全家桶。  
Jetson AGX Orin 本身则是一颗“小核弹”——Ampere 架构 GPU + Arm Cortex-A78AE CPU,再叠上新一代深度学习与视觉加速器,一步到位把感知、决策、控制塞进同一块板子。

感知阵容一次给齐:  
- 6 只“眼睛”——2 枚深度相机 + 4 枚超广角相机,360° 无死角。  
- 3 束“激光”——2 个 2D 导航雷达负责定位,1 个 3D 雷达(选配)专精建图。  
- 8 只“顺风耳”——超声波雷达补位近距盲区,让 AMR 在复杂环境里也能“耳聪目明”。

参考资料:Isaac Sim – 机器人仿真和合成数据生成 | NVIDIA 开发者

三:2022年11月:英伟达重磅发布 MinDojo:面向复杂任务的多模态具身智能体

该智能体具备互联网规模的知识体系。MinDojo 以广受欢迎的 Minecraft 游戏为基础,构建了一个全新的研究框架,专注于推动具身智能的发展。

这一模型融合了具身智能体所需的三大核心要素:一个支持多样化任务与目标的交互式环境、一个涵盖海量信息的多模态知识库,以及一个灵活且具备高度扩展性的智能体架构。MinDojo 的发布为具身智能领域的研究提供了坚实基础和可拓展的实验平台,标志着向真正“有行动能力的AI”迈出关键一步。

参考资料:https://zhuanlan.zhihu.com/p/555258658

四:2023 年「具身智能狂飙」:生成式 AI 接管机器人大脑

4.1Voyager 发布:英伟达再进一步探索自主智能体边界

Voyager:一个把大模型装进像素世界的“终身学徒”。  
在 Minecraft 里,它不靠人类脚本,纯凭 GPT 级大语言模型“边玩边学”:  
实时观察地形与背包 → 自动写任务 → 动手试错 → 把成功套路写进终身技能库。  
环境即课堂,代码即肌肉,越玩越聪明,真正演示了“具身智能”的自我进化。

Eureka 的双环引擎:  
外层把 GPT-4 当“奖励设计师”,零样本阅读原始环境代码和一句任务描述,就能吐出可执行奖励函数;  
内层用强化学习当“动作教练”,GPU 狂飙采样、打分。  
两环来回迭代——采样、评估、反思、再写奖励——几轮就把机器人训练曲线一路抬升。

Eureka 的用武之地——让机器人“手巧如人”:  
• 五指机械手穿针引线、解魔方、叠杯子,指尖动作分毫不差。  
• 人形机器人连贯完成后空翻、单脚平衡、倒挂金钩等高难体操。  
• 工业臂在混杂零件箱里精准抓取最薄芯片,零失误、零停顿。

参考资料:Eureka: Human-Level Reward Design via Coding Large Language Models

五:2024 年「具身大爆炸」:英伟达 GR00T 横空出世,机器人迎来通用大脑元年

5.1 2024年2月,英伟达正式组建具身智能体研究实验室 GEAR,致力于探索智能体在真实环境中的感知-行动闭环、自主学习与多模态交互等关键技术,推动人工智能向更接近人类行为能力的方向迈进。

2024 年 2 月,Jim Fan 与 Yuke Zhu 挂帅,英伟达悄悄拉起一支“GEAR”特战队——通用具身智能体实验室。  
他们的目标一句话:给虚拟角色和真实机器人造一个“通用大脑”。  
火力集中四大方向:多模态基座、通用机器人模型、虚拟世界智能体、仿真合成数据。

5.2 2024·3 核弹:Project GR00T 空降,机器人“通用人脑”上线!

2024年3月,在GTC开发者大会上,英伟达发布了面向人形机器人的通用基础模型 Project GR00T。该模型能够通过理解自然语言文本和语音,并结合对人类行为视频及真人演示的模仿学习,显著提升人形机器人协调多种技能的能力,使其更好地适应并主动与现实世界进行高效互动。

英伟达一声集结号,九大金刚到位:1X、Agility、Apptronik、Boston Dynamics、Figure、Sanctuary、宇树、傅利叶、小鹏鹏行,全部加入「GR00T 战队」。  

同场,Jetson Thor 也揭开面纱——专为“人形”而生的计算心脏:  
• Blackwell GPU + Transformer Engine,原生跑 FP4/FP8,大模型推理功耗骤减。  
• GPU 三集群 + MIG,切分算力像切蛋糕,多任务并行互不干扰。  
• 14 核 Arm AE CPU,性能是上一代 2.6×,毫秒级电机与传感器实时控制。  
• 128 GB 大内存、273 GB/s 带宽,把百亿级 Transformer 直接塞进本地。  
• 安全岛 + ISP + 编解码 + PVA + OFA 全套加速器,再送统一 SDK(VPI),一站式搞定视觉、语音、运动规划。

此外,英伟达在发布会上还宣布对 Isaac 机器人开发平台进行重大升级:

5.3 推出全新基础模型及相关开发工具
5.3.1  Isaac Manipulator
是基于 Isaac ROS 构建的全新解决方案,集成了 NVIDIA CUDA 加速库、AI 模型以及面向开发者的参考工作流程。该工具旨在助力机器人开发者打造具备环境感知、理解和交互能力的 AI 驱动机器人手臂或操作器,支持实现包括运动规划、物体检测、姿态估计与跟踪等多项核心功能。

5.3.1 Isaac Perceptor——AMR 的“超感神经”

它把 NVIDIA CUDA 的狂暴算力、预训练 AI 模型和即插即用的参考流程装进 Isaac ROS,一次打包:
• 视觉里程计 + 360° 3D 环视,零死角定位
• 立体障碍物检测 + 实时占用栅格,货架、叉车、行人瞬间显形
• 仓库、厂房、户外“三无”环境,开箱即可跑导航与抓取

一句话:让自主移动机器人睁开眼、算得准、走得稳。

5.4 仿真开挂:虚拟世界一键逼近真实
5.4.1 Isaac Lab

是一个基于 Isaac Sim 打造的轻量级、开源框架,依托 NVIDIA PhysX 物理引擎和基于 RTX 的高精度渲染技术,提供逼真的物理模拟环境。该框架有效连接了高保真仿真与基于感知的机器人训练之间的鸿沟,专为机器人学习流程进行了深度优化,旨在简化强化学习、模仿学习及运动规划等常见研究任务,显著提升机器人算法的开发效率与实际应用能力。

5.4.2 OSMO:
机器人界的“云端调度大脑”。  
用一条 YAML 就能把“造数据-训模型-跑强化学习-软件在环测试”整条流水线拆成多容器、多阶段任务,秒级扩展到本地、私有云或公有云。无论是人形机器人、AMR 还是工业机械臂,所有 Isaac 任务一键编排、实时可视、统一管理。

六: 2025,AI 机器人觉醒元年:英伟达开源人形智能核心模型

 2025 开局王炸:英伟达甩出 Cosmos × Isaac GR00T Blueprint,一键把宇宙塞进机器人大脑

6.1世界基础模型平台 Cosmos

Cosmos 就是英伟达的“物理世界生成器”。  
一句话:给一句话、一张图或一段视频,它就能吐出无限接近真实物理规律的虚拟世界。  

• 核心资产:2000 万小时的机器人和自动驾驶视频打底,预训练出多模态世界基础模型(WFM)。  
• 四大件开箱即用:  
  ‑ WFM 直接生成可交互的 3D 场景;  
  ‑ Cosmos Tokenizer 把文本/图像/视频秒变高维 token;  
  ‑ Guardrails 自动过滤不合规内容,数据安全一键锁死;  
  ‑ NeMo Curator 的加速管道让海量合成数据像自来水一样哗哗流。  
• 用法够野:想要深夜雨天的仓库?一句话。想要雪天高速?一张图。生成后即可喂给自动驾驶或机器人模型,训练不再苦等真实数据。  
• 还能继续微调:把 Cosmos 当底座,后训练几步就能捏出专属物理 AI,适配任何长尾场景。

6.2 Cosmos 双子星:Predict 与 Transfer
6.2.1. Cosmos Predict  
   文本、图片、视频都能喂,Transformer 核心一次看多帧。给它头尾两张图,它就能把中间动作或轨迹完整脑补出来。9000 T token 的机器人 + 自动驾驶数据炼成底座,专门留给开发者“二次锻造”。
6.2.2. Cosmos Transfer  
   分割图、深度、LiDAR、姿态、轨迹……任何结构化线索丢进去,马上吐出电影级可控视频。ControlNet 内核 + 时空控制图,让虚拟画面与真实坐标逐像素对齐,实现“世界→世界”的无缝迁移,仿真到现实零缝隙。

NVIDIA Cosmos 的典型应用涵盖多个关键领域,包括:合成数据生成(SDG),用于构建多样化训练数据;策略模型初始化,为智能体提供高效的起点;策略模型评估,在仿真环境中测试和验证决策能力;以及 多视图生成,支持从不同角度生成一致且逼真的场景表示,全面提升机器人对复杂环境的理解与适应能力。

6.2.3Cosmos Reason

 是一款完全可定制的多模态推理模型,其设计基于对空间与时间维度的深度理解,具备强大的时空感知能力。该模型通过思维链(Chain-of-Thought)推理机制,能够深入分析视频数据,理解复杂场景中的动态交互,并预测可能的行为结果,从而为后续的决策规划提供支持。

在训练方式上,Cosmos Reason 分为三个阶段:预训练、通用监督微调(SFT) 以及 强化学习(RL),逐步提升其在真实世界环境下的推理、预测与响应能力,为人形机器人和智能体的自主决策系统提供坚实基础。

6.3 2025年3月,构建通用人形智能的新基石:GR00T N1 全面解析

2025年3月,在GTC开发者大会上,英伟达正式发布了全球首个**开源且可定制的通用人形机器人基础模型 GR00T N1**,标志着人形机器人迈向更高水平的感知-决策-行动一体化时代

GR00T N1 是一款融合视觉、语言与动作的多模态模型(VLA),采用创新性的双系统架构设计:

- “系统1”:

是基于扩散变换器(DiT)构建的动作生成模块。该模块通过交叉注意力机制,聚焦于视觉-语言模型(VLM)输出的Tokens,并结合专为人形智能设计的状态与动作编码器/解码器,处理具有可变维度的输入输出,实现高精度运动生成。其闭环电机控制频率高达 **120Hz**,确保了动作的实时性与流畅性。

- “系统2”

 是基于视觉-语言模型(VLM)的推理引擎,运行于 NVIDIA L40 GPU 上,以 **10Hz** 的频率处理来自环境的视觉信息和用户发出的语言指令,负责理解场景并解析任务目标。

两个系统均以 Transformer 为核心架构,在训练过程中实现端到端的联合优化,使推理与执行高度协同,从而在复杂现实环境中达成更高效、更具适应性的智能行为。

GR00T N1 模型的预训练融合了多种数据来源,包括  真实机器人操作轨迹、合成生成数据 以及  人类行为视频  ,从而构建出一个多样化、泛化能力强的数据集,为模型在复杂场景下的感知与行动能力打下坚实基础。

论文:GR00T N1: An Open Foundation Model for Generalist Humanoid Robots

收官透视:  
英伟达把自己锻造成“机器人时代的电网”——电流是算力,插座是 Isaac + Omniverse,电线则是一整套 Jetson 芯片与 GR00T 大模型。插上插头,从 Figure 的人形、波士顿动力的 Atlas,到丰田产线上的机械臂,全都能在 Omniverse 的孪生宇宙里先跑通、再上岗。  

黄仁勋那句“一切会动的终将自治”不再只是口号:  
• 技术端——数字孪生预演、Cosmos 合成数据、Isaac Sim 闭环验证,让机器人“先仿真、后落地”。  
• 商业端——硬件标准化、软件全开放,拉来亚马逊、丰田、微软、OpenAI 共同铺轨,把具身智能的开发周期砍半、成本打骨折。  

结果很明显:当行业还在讨论标准时,英伟达已经卖起了“电”

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐