在机器人学习领域,策略评估通常只看"任务是否成功"这一二值信号。但在真实部署中,任务完成的质量同样重要——传送带上的机器人需要快,端送酒杯的机器人需要稳。KAIST、LG电子与微软研究院等机构的研究者提出了质量可控策略(Quality-Controllable Policy,QCP),让机器人能够在推理阶段按需调节执行质量,并通过迭代式事后重标记(iterative hindsight relabeling)把可控范围扩展到初始演示数据之外。

图 1:QCP 与迭代事后重标记整体框架。左侧为质量条件化:同一策略接收不同质量标签,输出急动或平滑的动作;右侧为迭代事后重标记循环;下方是速度(传送带作业)与稳定性(端送酒杯)两个示例。

项目介绍

QCP 将执行质量作为显式的条件输入,训练前先测量每条成功轨迹的质量分数,再按等频分箱(equal-frequency bins)量化为 q0–q3 四级标签(q3 为最高一档),每一档的样本数量相同;策略在所有成功轨迹上以质量标签为条件训练,一条策略可同时以六个质量属性为条件——完成时间、动作平滑度、末端执行器平滑度、末端执行器速度、平移路径、旋转路径,既可单独调节,也可组合调节。在推理阶段,操作人员指定对应质量标签,就可以调整机器人的运动行为。

为突破初始示范数据集的质量上限,研究引入迭代事后重标记循环。系统会按照设定的质量标签采集实际运行轨迹,保留任务成功的样本,依据实际表现重新计算整个累积数据集的标签,然后重新训练。整套流程无需人工标注质量信息,随着更优经验不断进入数据,可实现的质量区间被逐步推高,任务成功率与执行品质同步改善。仿真环境下,该方法在 Robomimic、RoboEval 测试任务中,可同时改善大部分运动质量指标,结果优于 SORL、SCIQL+、BC-Q 与 BC 等基线。

Franka 在项目中的作用

仿真实验的结果需要实体机器人来检验算法在物理环境中的可行性,本项目选用搭载 DROID 硬件与相机套件的 Franka 机械臂作为真实实验载体,完成两组典型实操任务的验证。

研究人员借助该机械臂的遥操作功能采集原始示范数据。传送带作业收集 400 组有效示教片段,构成初始数据集;酒杯搬运任务则是在 382 次遥操作中筛出 50 次成功样本,成功率仅 13.1%——移动中保持托盘水平,对人手遥操作同样困难。

项目设置两类现实任务。一是传送带作业,传送带每 3 秒送来一个罐子,吞吐量定义为每分钟成功抓取的罐数,需要在动作速度与成功率之间同时兼顾;二是托盘搬运酒杯,需要维持托盘平稳,避免酒杯倾倒,以托盘相对水平面的倾角衡量稳定性。Franka 执行 QCP 输出的动作指令,并承担每一轮迭代中新增轨迹的采集。

两组任务的收益都可以量化。传送带作业的吞吐从 8.2 提升到 13.0 罐/分钟(+59.3%),末端执行器平均速度从 188.6 提升到 257.6 mm/s(+36.6%),已超过人类遥操作时的 173.5 mm/s;端送酒杯任务的托盘倾角从 0.0660 降到 0.0482 rad(-27.0%),成功率从 30.7% 提升到 42.0%。需要说明的是,这两个真机任务各自独立采集数据、独立训练,并未沿用仿真实验的模型;它们验证的是同一套机制在物理环境中同样成立,而不是仿真指标的直接迁移。

图 2:Base 与 QCP 的三项指标对比。左列为真实机械臂的端送酒杯任务(托盘倾角,越低越稳);中、右列为仿真环境中的插入任务(所需步数、与虚拟人手的最近距离)。

结语:

QCP 研究证明,除了完成任务目标之外,机器人可以对运动风格、执行品质做可控调节。同一条策略换一个质量标签,就能在“更快”与“更稳”之间切换——这种能力来自质量条件化本身,而不是针对某个任务的专门调参。Franka 在这里承担的是把方法从仿真推向物理部署的验证角色,两组真机任务都出现了可量化的收益,也体现了实体机器人在机器人学习研究里,承担数据采集与算法验证的重要价值。

信息来源:项目主页 https://sinnnj.github.io/qcp;论文 arXiv:2610.37393。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐