26年7月来自腾讯实验室的论文“Hy-Embodied-0.5-VLA: From Vision-Language-Action Models to a Real-World Robot Learning Stack”。

过去一年见证了视觉-语言-动作(VLA)模型的迅猛发展,人们的关注点正日益转向下一代具身基础模型。然而,真正通用的机器人不太可能仅凭单一模型就能实现;相反,它必须构建于一套完整的机器人学习栈之上,确保从数据采集到现实世界部署的全流程稳健性。

在本报告中,推出 Hy-Embodied-0.5-VLA(简称 HyVLA-0.5),这是一个涵盖机器人学习全栈的端到端系统,包括数据采集、模型设计、持续预训练与监督微调(SFT)、强化学习(RL)后训练以及现实世界部署。该栈中的每个组件都发挥着独特的作用。在数据方面,开发一种配备动作捕捉框架的定制指尖 UMI 设备,采集了超过 10,000 小时的以自我为中心(egocentric)、亚毫米级精度的各类人类演示数据,这些数据也可直接用作后训练阶段的轨迹。在建模方面,基于 Hy-Embodied-0.5 骨干网络,引入流匹配(flow-matching)动作专家、紧凑型记忆编码器以及“增量分块”(delta-chunk)动作表示法,从而将策略学习与特定具身的运动学特性解耦。在持续预训练与微调阶段,基于在 UMI 语料库上持续预训练得到的检查点,引入两条针对真实机器人的 SFT 路径:路径 A 用于目标机器人适配,路径 B 用于仅基于 UMI 数据的跨具身迁移。在 RL 后训练阶段,引入一种基于近端偏好优化(PRO)的离线强化学习算法;该算法能将失败案例转化为策略的快速改进,并在无需学习奖励模型的情况下,推动性能达到接近上限的成功率。在部署方面,采用一种结合轻量级轨迹平滑处理的异步推理流水线,从而实现高频闭环控制。


Hy-Embodied-0.5-VLA(图1所示)是一个涵盖从定制数据采集硬件到生产级部署全栈流程的端到端系统。HyVLA-0.5 并未将 VLA 建模视为孤立问题,而是构建一个完整的流水线,其中数据、建模、强化学习(RL)后训练及部署各司其职。
请添加图片描述

在数据方面,其构建结合动作捕捉框架的定制指尖 UMI 设备,用于采集超过 1 万小时的亚毫米级精度、以自我为中心(egocentric)的人类演示数据。指尖形态的设计还原笨重手持设备无法提供的自然触觉感知;动作捕捉框架生成仅靠 SLAM流水线无法实现的高保真动作标签;而自我视角提供全局语义上下文,避免过度依赖局部腕部摄像头。至关重要的是,这些轨迹数据可直接用于后训练阶段,从而实现下游适配中的复用,并减少针对特定目标机器人进行额外数据采集的需求。

在建模方面,其扩展 Hy-Embodied-0.5 [15] 的主干网络(一个在具身语料库上预训练的 40 亿参数 Mixture-of-Transformers 视觉语言模型),引入基于流匹配(flow-matching)的动作专家模块,以实现连续、高频的动作预测。与适配通用视觉语言模型 [16–18] 相比,这种具身原生(embodied-native)的初始化方式带来更强的空间先验信息和更快的后训练收敛速度。此外,引入用于捕捉时空上下文的紧凑型记忆编码器,并采用“增量分块”(delta-chunk)动作表示法,即预测连续步骤之间末端执行器的增量运动。这种增量分块的表述方式将策略学习与特定具身的运动学特性解耦,并大幅缩小优化搜索空间,从而为跨具身的后训练与部署提供一个简洁的基础架构。

在持续预训练与微调阶段,首先利用 1 万小时的 UMI 语料库对 HyVLA-0.5 进行预训练,随后通过针对特定任务的监督微调(SFT)对所得检查点(checkpoint)进行特化。面向真实机器人的 SFT 分为两条路径:路径 A(Track-A)研究具身内(intra-embodiment)适应性,即利用目标机器人演示并在同一平台上进行部署;路径 B(Track-B)则研究仅基于 UMI 数据的具身间(cross-embodiment)迁移,即在无需目标机器人遥操作的情况下,迁移至形态各异的机器人上。

在强化学习(RL)后训练阶段,引入 FlowPRO [19]——一种基于“近端偏好优化”(PRO)的离线强化学习算法,该算法无需构建评论家(critic)网络或显式奖励函数。通过遥操作干预与回滚(intervention-and-rollback)流程,直接从策略推演(rollout)中收集成对的成功与失败轨迹。随后,RPRO 损失函数将这些偏好信息与连续流匹配(continuous flow-matching)目标对齐,同时利用对比梯度抵消特性抑制灾难性遗忘。FlowPRO 将失败案例转化为快速迭代循环,在无需训练任何奖励或价值网络的前提下,提升长尾操作场景下的鲁棒性,并将性能推向接近上限的成功率。

在部署阶段,其实现一个异步推理框架,将骨干网络的前向传播与动作执行过程重叠并行处理,并利用一种简单而有效的“三次贝塞尔(cubic Bézier)动作平滑器”将连续的动作增量片段(delta chunks)拼接起来,从而确保连续的过渡效果。这些组件协同工作,实现了真实硬件上的高频闭环控制,打通了从数据采集到工厂车间实际操作的全流程。


HyVLA-0.5 遵循视觉-语言-动作(VLA)范式,其中预训练的视觉-语言模型(VLM)提供广泛的语义感知能力,而专用的动作模块则将由此产生的多模态上下文转化为底层的机器人控制指令(图 2所示)。在此范式基础上,HyVLA-0.5 包含三个核心组件。首先,其主干网络是具身 VLM 模型 Hy-Embodied-0.5 [15],该模型采用具有模态自适应计算和原生分辨率图像编码能力的 Transformer 混合(MoT)架构 [20]。其次,动作专家模块通过条件流匹配(conditional flow matching)[1, 21] 生成连续的动作块(action chunks);其中,机器人特有的状态流和动作流与 VLM 保持分离,并通过共享注意机制与 VLM 进行耦合。最后,图像编码器被扩展为紧凑型记忆编码器,通过交错的时空注意机制 [22] 聚合多帧观测历史信息。
请添加图片描述

1 问题表述

将操作任务建模为一个以目标为条件的、基于动作块(chunk-level)的控制问题。在每个决策步 t,策略接收多模态观测 o_t 并预测一段未来的动作序列 A_t;即对条件分布 p(A_t | o_t) 进行建模。

2 Hy-Embodied:模态自适应计算骨干网络

HyVLA-0.5 基于具身视觉-语言模型(VLM)Hy-Embodied-0.5-MoT [15] 构建,这是一个针对边缘侧部署进行优化的紧凑型模型,拥有 40 亿(4B)参数。该模型采用标准的“图像编码器 + 语言模型”架构:骨干网络利用 Hy-ViT 2.0 对图像进行编码;Hy-ViT 2.0 是一种支持任意输入分辨率的原生分辨率视觉 Transformer (ViT) [24, 25],且经由一个更大的内部教师模型蒸馏而来。因此,每个摄像头的视频流均可在其原生分辨率下进行处理,而无需下采样至固定尺寸。

该骨干网络采用 Transformer 混合(MoT)架构 [20],并直接使用 HY-Embodied-0.5 [15] 的预训练权重进行初始化。这种设计使得视觉流和文本流各自保持独立的 QKV 和 FFN 参数。具体而言,在前向传播过程中,ViT 提取的所有视觉 Token 均使用一套专用于视觉的参数(该参数集为复制版)进行计算,而文本 Token 则使用原始语言参数进行处理。跨模态交互仅限于共享的自注意层。因此,视觉参数与文本参数的更新是相互独立的。此外,沿用 HY-Embodied-0.5 [15] 的原始配置,该骨干网络在单张图像的视觉 Token 之间严格应用双向注意机制,同时对语言 Token 保持标准的因果注意机制。

针对从 Dct 采样得到的辅助 VQA(视觉-问答)和空间定位任务,VLM 骨干网络利用其原生语言建模头,以自回归方式解码序列化的目标 Token,通过标准的“下一 Token 预测”目标来优化这一过程。

3 采用双-塔流匹配(Dual-Tower Flow Matching)的动作专家

HyVLA-0.5 没有将动作离散化为类似语言的 token,而是为骨干网络配备一个动作专家模块,该模块通过条件流匹配(conditional flow matching)[21] 直接建模连续分布 p(A_t | o_t)。

双塔路由机制。在 MoT 骨干网络的基础上,HyVLA-0.5 将联合 Transformer 架构拆分为面向理解的 VLM 塔和面向生成的动作专家塔。VLM 塔利用前述的模态自适应参数处理视觉和文本上下文;动作专家塔则接收投影后的机器人状态和带噪动作 token [s_t, Atau_t],以生成连续动作速度场。这两个塔通过共享的自注意力机制进行交互,从而使具有实际场景基础(grounded)的视觉-语言上下文能够引导动作生成。

分块因果注意机制。将 token 序列划分为三个区块:[I_t, l]、[s_t] 和 [aτ_t,0, . . . , aτ_t,H −1],并应用一种注意力机制:在每个区块内部采用双向注意力,而在区块之间则严格遵循因果约束(单向注意力)。感知区块被限制为不关注机器人专用区块,从而最小化与 VLM 预训练阶段的分布偏移;状态区块被隔离,以便缓存其键(key)和值(value);带噪动作区块则关注完整的前缀序列。

流匹配目标函数。令 Ataut = tau A_t + (1 - tau)epsilon(其中 epsilon ~ N(0, I))表示流时间步 tau [0, 1] 处的带噪动作片段。动作专家通过目标函数 L_fm 回归速度场 v_theta,该速度场负责将噪声转化为目标动作。流动时间步 tau 采样自一种偏向高噪声区间的 Beta 分布,从而侧重于动作去噪过程中更具挑战性且信息量更大的阶段。当辅助数据与机器人演示数据混合使用时,总目标函数为 L(theta) = L{fm}(theta) + lambda_{ntp} L_{ntp}(theta);当 lambda_{ntp}=0 时,则退化为仅使用动作数据的训练模式。

推理。在部署阶段,策略通过前向欧拉更新(步长 delta=0.1,共 10 步)对学习到的速度场进行积分(从 tau=0 到 tau=1),从而生成动作片段:Atau+delta}_t = Atau_t + delta v_theta(Atau_t, o_t)。由于作为条件的观测前缀 o_t 在所有求解器迭代过程中保持不变,其对应的键(keys)和值(values)会在初始前向传播时被缓存。因此,后续步骤仅需重新计算动作 token,从而显著降低计算开销。

4 带时空注意的紧凑记忆编码器

HyVLA-0.5 基于 K 帧多视角历史 I_t 进行条件处理,以形成紧凑的记忆编码。如果对所有 n×K 帧单独进行编码并将它们传递给主干网络,会增加传递给 VLM 的视觉 token 数量。本文则将图像编码器扩展为视频编码器,在 token 到达 VLM 主干之前压缩时间维度。

因式分解的时空注意。按照 Pi-MEM [22] 的做法,视频编码器保留标准 ViT 的 patchify-then-attend 结构,并在每 L 层插入一次时间传递。在这样的层中,添加固定的正弦时间编码 e(k)(且 e(0) = 0),并重用底层 ViT 块的相同 QKV 和输出投影 WO,然后将注意分解为时域和空域两个共享这些投影的过程。

时间通道是因果注意,所以每一帧只关注当前和过去的内容,这符合机器人实时感知的流式特性。空间通道则是在帧内的原始双向自注意,应用于时间混合后的值 V ̃。

保持token数量的压缩。在视频编码器的上层,丢弃过去帧的补丁表示,只将当前帧的token传给主干网络。因为交错的时间注意已经将历史上下文融入到当前帧的表示中,所以传递给视觉-语言模型(VLM)的视觉token数量与单帧策略相同。

无参数、易迁移设计。相对于单图像的 Hy-ViT 2.0,视频编码器没有引入新的可学习参数:两次传递都重用QKV 和 W_O 投影,时间编码 e(k) 是固定的正弦函数,且 e(0) = 0,而不是学习得到的表。因此,当 K=1 时,因果时间注意是恒等的,e(0) = 0 不会改变输入,所以每个增强块正好退化为预训练的 ViT 块。因此,带记忆增强的主干网络可以直接从 Hy-Embodied-0.5 权重初始化,并且作为特殊情况恢复为单帧编码器。


1 Hy-UMI-10K:高保真操作数据集

HyVLA-0.5 基于 Hy-UMI-10K 进行预训练;这是一个由团队内部采集的、时长超过 1 万小时的手持式通用操作接口(UMI)数据集 [11](见图 4所示),也是该模型预训练的唯一数据源。与依赖机载视觉 SLAM 恢复夹爪位姿的标准 UMI 流程不同,采集系统利用外部光学动作捕捉设备来追踪每个夹爪,从而在统一且全局一致的世界坐标系下,以亚毫米级精度记录每一条 6 自由度(6-DoF)轨迹——这正是其“高保真”特性的由来。
请添加图片描述

采集设备。演示数据是通过定制设计的手持式 UMI 夹爪采集的,这些夹爪与特定实施例的运动学结构解耦(图 3所示)。夹爪设计参考工业界常用的 Changingtek CTAG2F90 型号,旨在缩小从实验室到实际部署的差距。安装在夹爪上的摄像头紧贴夹爪表面,从而最大限度地减少在狭窄空间操作时因摄像头突出而引发的碰撞风险。夹爪的张合度由关节处的旋转编码器测量,精度可达亚毫米级,无需依赖视觉识别来判断张合状态。夹爪的位姿由外部光学动作捕捉系统追踪,该系统在统一的全局笛卡尔坐标系下以亚毫米精度解析每个 6 自由度(6-DoF)轨迹,并同步头部 RGB-D 摄像头以避免红外(IR)发射造成的干扰。这种光学追踪方案取代传统 UMI 装置中使用的机载视觉 SLAM 技术,在位姿轨迹精度上表现更优,且避免基于 SLAM 的位姿估计系统因暂时缺乏视觉特征而导致的位姿抖动或追踪丢失等操作风险。这种采用光学追踪系统的配置优先保证涉及精细运动技能任务的高质量动作标注,但代价是难以在非受控环境(in-the-wild)中便捷部署。
请添加图片描述

夹爪采用符合人体工程学的指尖连接机制,允许通过接触和力反馈直接驱动,而非依赖于力反馈不明显的间接触发式操作。部分夹爪在指尖处可选配六维力/力矩传感器;由于夹爪手指直接连接在操作者手指上(而非通过机械扳机操作),这建立一种与人类本体感觉相一致的意图与记录动作之间的映射关系;此外,相比于安装在手腕处的传感器,指尖传感器能更直接地测量施力意图。由于记录过程是相对于夹爪而非任何固定基座进行的,因此该数据集不受基座放置位置差异的影响。采集装置会记录 RGB-D 数据流,但在当前的 HyVLA-0.5 版本中,训练阶段仅使用了 RGB 模态数据,而深度数据则保留以供后续训练阶段使用。

构成与分布。该数据集包含涵盖 70 种不同任务的超过 100 万个操作片段(episode)和 1 万小时的演示数据,这些任务被归类为六大基于场景的任务类别:洗衣房(28.5%)、厨房(19.2%)、个人护理与杂项(13.8%)、灵巧操作/工具使用(10.4%)、收纳与整理(10.0%)以及清洁(5.7%)。这六大类别构成了数据集的主体,而其余任务则形成了涵盖多样化物体类别和环境条件的“长尾”部分。被操作的物体种类繁多,从刚性容器和餐具,到精密仪器和可变形织物,应有尽有。上图 4 详细展示任务类别、物体类别分布以及各任务的时长分布情况。

2 预训练

设置。基于 Hy-Embodied-0.5-MoT [15] 的检查点(checkpoint)初始化该 VLM 以进行预训练。尽管动作专家(action expert)与 VLM 共享相同的架构配置,但它是作为一个独立的 Transformer 模块进行实例化并随机初始化的。此外,其隐层维度和中间层维度分别从 2048 缩减至 1024 和从 6144 缩减至 2048,从而使有效参数量达到 3.7 亿(370M)。所有模型参数均可训练,并基于流匹配(flow-matching)目标进行优化。为了加速大规模预训练,设定 K=1,即不使用历史图像帧作为输入,因此视频编码器简化为标准的单图像编码器。该策略接收分辨率为 224×320 的 3 个视角的图像输入,并以 10 Hz 的频率预测时域跨度(horizo​​n)为 H=50 的未来动作序列片段。

数据与预训练方案。用完整的 10,000 小时 UMI 语料库进行预训练。数据加载器采用有放回采样方式:首先根据片段长度的比例从完整语料库中采样一个片段,然后从该片段中均匀采样一帧作为当前帧,最后提取以 10 Hz 频率记录、块大小(chunk size)为 H=50 的未来动作序列,作为真值(ground-truth)动作块。在输入网络之前,状态和动作数据均使用整个数据集的均值与标准差进行归一化处理。训练共进行 200,000 步,全局批次大小(global batch size)为 1,024,基础学习率为 5 × 10⁻⁵。学习率在前 1,000 步内线性预热至最大值,随后在 160,000 步内衰减至峰值的十分之一,并继续训练 40,000 步。用 AdamW 优化器 [26],并采用 bfloat16 混合精度进行训练。

3 监督微调

设置。基于 UMI 预训练的 VLA 检查点进行初始化,并针对每个目标具身(embodiment)的特定任务演示数据,在流匹配(flow-matching)目标函数下进行监督微调(SFT)。VLM 和动作专家(action expert)的权重均加载自预训练模型,且所有参数均保持可训练状态。与预训练阶段不同,SFT 设定 K=6,使得视频编码器能够同时基于当前帧和五帧历史帧进行条件化处理。

具身与数据。在一个仿真具身和四个真实世界平台上对模型进行微调。在仿真方面,采用 RoboTwin 2.0 基准测试 [27] 中的 Aloha-AgileX 双臂设置,涵盖 50 个操作任务;每个任务包含 50 个清洁环境下的片段(episodes)和 500 个随机环境下的片段,总计 2750 个片段和超过 600 万帧数据。对于真实世界的 SFT,将数据组织为两条部署路径,分别对应“具身内适应”和“跨具身迁移”。路径 A(具身内适应)通过远程操作(tele-operation)在与评估相同的机器人平台上收集演示数据;具体而言,Dobot X-Trainer 涵盖四个任务,每个任务包含 300 个演示(总计 18 小时)。路径 B(跨具身迁移)仅基于特定任务的 UMI 演示进行微调,并部署到形态各异的目标机器人上,无需针对目标机器人进行远程操作;该路径涵盖 JAKA K1 上的一个任务(300 个 UMI 演示,1.2 小时)和 Astribot S1 上的一个任务(200 个 UMI 演示,1.5 小时)。此外,还使用 Unitree G1(1 个任务,400 个 UMI 演示,2.2 小时)进行力模态(force-modality)验证。

后训练配置。在真实世界部署中,动作采样频率为 50 Hz,动作块(action-chunk)时域长度 H=50,历史采样间隔为 1 秒。进行 60,000 步的训练,采用 32 的全局批次大小(global batch size)和 2.5 × 10⁻⁵ 的基础学习率(该学习率在 40,000 步内进行衰减)。针对 RoboTwin 2.0,由于数据规模更大,以步长(stride)3 对当前帧的未来动作进行下采样,并采用 H=20 的动作块时域长度(action-chunk horizo​​n)以及 5 × stride 的历史采样间隔。全局批次大小设定为 128,其余优化设置则沿用预训练阶段的配置。


在完成监督式预训练与 SFT之后,HyVLA-0.5 通过“故障驱动的后训练”进一步提升其在真实机器人上的部署性能。该阶段沿用 FlowPRO [19] 的方法,结合流匹配(flow-matching-aware)-觉察的偏好优化损失(RPRO)以及包含遥操作干预与回退机制的数据流水线。由此,HyVLA-0.5 能够将少量的真实机器人修正转化为可量化的部署性能提升,且无需训练任何奖励模型或价值模型。

1 设计原则

针对真实机器人的后训练(post-training)方法通常分为三大类:SFT/DAgger、基于奖励或价值的强化学习(RL),以及基于偏好的强化学习。这些方法各自的局限性促成以下三项 FlowPRO 设计原则:
(P1) 直接利用失败案例。负向轨迹不会被丢弃或仅仅标记以待重标注;相反,它们会作为针对配对正向修正的“逐状态、逐片段”对比信号,反馈到动作生成损失函数中。
(P2) 完全避免使用奖励模型和评论家(critic)模型。训练信号通过“流匹配对数似然代理(flow-matching log-likelihood proxy)”,利用冻结的参考策略和当前策略以闭式(closed-form)计算得出。这规避困扰高接触交互操作任务的密集奖励设计瓶颈。
(P3) 锚定隐式奖励。采用对称近端正则化项(symmetric proximal regularizer)来防止隐奖励的绝对幅值发生爆炸。这种机制从结构上杜绝普通 DPO 中常见的“奖励作弊(reward-hacking)”失效模式,即策略同时偏离 aw 和 al 的情况。

2 方法

FlowPRO 基于 SFT 预训练的 HyVLA-0.5 基础策略,以迭代式离线强化学习(offline-RL)循环的方式运行(图 5所示)。每一轮包含三个步骤:
请添加图片描述

(1) 通过遥操作干预与回滚(teleoperated intervention-and-rollback)收集机器人端的偏好对;
(2) 利用平滑插值(Smooth Interpolation)将这些稀疏的轨迹级修正转换为密集的逐状态偏好元组;
(3) 在包含新偏好对、历史偏好对和 SFT 数据的混合批次上,利用 RPRO 损失函数优化策略(图 6所示)。
请添加图片描述

上一轮的策略被用作 RPRO 损失函数中的参考策略 pi_{ref}。HyVLA-0.5 的动作头采用流匹配模型 [21, 28]。给定包含视觉观测 o 和语言指令 l 的状态 s = (o, l),速度场 v_theta(a_t, t | s) 将高斯噪声 epsilon ~ N(0,I) 变换为动作片段 a。该传输过程遵循流时间 t [0, 1] 内的线性插值 a_t = (1 − t) epsilon + t a,其条件速度为 u(a_t | a) := a − epsilon。参考 Flow-DPO [29],采用逐样本流匹配(flow-matching)回归损失作为负对数似然 l_theta(s, a) 的可处理替代项,从而得到 RPRO 所使用的隐奖励代理(implicit-reward proxy)。

数据收集:干预与回退(intervention-and-rollback)。通过远程操作的“干预与回退”流程(图 5所示)收集偏好轨迹对 (tauw, taul)。在当前策略的运行(rollout)过程中,一旦观察到错误或危险动作,操作员便进行干预。随后,系统执行以下操作:(1) 回退到较早的状态 s_{t-Delta}(其中时间跨度 Delta 由操作员选定),并将已执行的片段记录为负向轨迹 taul;(2) 获取 t-Delta 时刻的观测值作为视觉参考,以应对环境变化或需要重置物理场景的情况;(3) 记录操作员从 s_{t-Delta} 开始的纠正性演示,作为正向轨迹 tauw。因此,单次操作员动作即可生成一对具有相同初始状态的自然配对轨迹 $(tauw, taul)。通过在不同干预中改变 Delta 的值,可以在无需分别记录正向和负向完整运行过程的情况下,实现轨迹对起始状态的多样化。

平滑插值与批次混合。由于 tauw 和 taul 在 s_{t-Delta} 之后发生分叉,后续的每个状态仅属于一条轨迹。为了生成所需的密集状态级元组 (s, aw, al),利用平滑插值过程(图 5所示)合成缺失的对应动作。


部署过程主要解决三个运行时问题:将末端执行器的增量块(delta chunks)映射到异构机器人平台,以机器人控制频率提供 VLA 预测,以及将独立预测的块拼接成平滑运动。利用三个轻量级组件来解决这些问题:一个确保学习的动作接口在不同具身形态间保持不变的平台映射器;一个将主干网络前向传播与伺服控制执行重叠进行的异步推理-执行循环;以及一个感知延迟的三次贝塞尔曲线拼接器,用于剔除过时的前缀并确保片段间的平滑过渡。所有真实机器人评估均采用同一套部署架构。

1 与具体形态无关的平台映射

平台映射的作用是维护由“增量块”(delta-chunk)表征所确立的、与具体机器人形态无关的接口契约。策略输出一个20维的双臂动作片段(每个末端执行器占10维:包括3维笛卡尔平移和6维旋转——即SO(3)旋转矩阵的前两行,两者均相对于块起始时刻的末端执行器位姿表示;外加1维夹爪开合指令)。与具体形态相关的运动学处理被推迟至部署阶段进行:此时,将预测出的相对SE(3)变换与末端执行器初始位姿进行组合,以还原出绝对世界坐标系下的目标位姿,随后在目标机器人上求解逆运动学(IK)以生成关节控制指令。

对于同具身部署(track A),部署与数据采集阶段的世界坐标系保持一致。对于跨具身部署(track B),由于数据采集和部署涉及不同的形态,针对两种形态类型建立相应的映射:固定基座机械臂和浮动基座人形机器人。

2 实时控制中的异步执行

高容量 VLA 策略的运行速度慢于机器人伺服循环,因此同步执行会导致机器人在两次前向推理之间处于空闲状态。为此,利用带有线程安全动作缓冲区 B(图 7所示)的生产者-消费者运行时机制,将推理与指令分发解耦。推理线程根据最新观测结果查询策略,并用平滑后的动作序列覆盖缓冲区 B;与此同时,执行线程以控制频率从 B 中提取指令,并记录近期位姿以用于切线估计。将这两个循环重叠运行,可在连续执行的过程中掩盖大部分主干网络(backbone)的延迟。
请添加图片描述

3 考虑延迟的贝塞尔(Bézier)片段拼接

在异步执行中,片段拼接至关重要:必须将延迟的片段重新连接到机器人的当前状态,且不能引入运动不连续性。采用三次贝塞尔曲线段构建一个紧凑的连续连接器,其端点位置和切线均可控制。

首要的设计选择是确定贝塞尔连接器与保留片段之间的连接点。将 gamma 设定为一个轻量级的部署超参数,其取值取决于加速度限制和伺服频率等硬件响应特性。较小的 gamma 值会选择保留片段中较早的点,从而保留更多策略预测的动作,但留给修正延迟边界的空间也较小;较大的 gamma 值能提供更平滑的衔接目标,但会跳过更多预测动作。对计算出的索引进行截断处理,使其避开两端,从而能够利用相邻的路径点来估计未来的切线方向。

控制点的选择也遵循同样的直觉。贝塞尔曲线应沿机器人当前的运动方向离开现有轨迹,并沿策略预测的下一阶段方向进入后续片段。因此,将两个内部控制点分别放置在历史运动方向和后续片段的局部方向上,并根据机器人当前状态与重连点之间的间距对控制点的距离进行缩放。这种方法实现了平滑过渡,且无需引入额外的学习型控制器。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐