这项由华东师范大学、哈尔滨工业大学、北京航空航天大学、华中科技大学、香港科技大学(广州)、中关村学院等多家机构联合开展的研究,以预印本形式发布于2026年7月7日,论文编号为arXiv:2607.06442,有兴趣深入了解的读者可以通过该编号查询完整论文,代码也已在GitHub上公开。

说到机器人,大多数人脑海中浮现的画面是工厂流水线上的机械臂,或者科幻电影里的人形机器。而如今,研究人员正在训练一类更聪明的机器人——它们不仅能"看懂"画面,还能"听懂"语言,最终把这些理解转化为实际的操作动作。这类机器人背后依赖的技术叫做"视觉-语言-动作模型",可以理解为一套把视觉感知、语言理解与肢体控制融合在一起的大脑。

训练这样的大脑,需要大量机器人演示数据——就像教一个孩子叠衣服,你得让他反复看大人怎么做。但问题随之而来:数据越多,真的越好吗?现实情况是,现有的机器人演示数据集往往充斥着大量重复操作、质量参差不齐的示范,甚至存在明显错误的动作片段。一味堆砌数据,不仅浪费计算资源,还可能让机器人学到一堆坏习惯。

正是为了解决这个"多而不精"的困境,研究团队提出了一套名为SIEVE(中文可理解为"筛子")的数据筛选方法。这套方法的核心思路是:与其让机器人看遍所有演示,不如精挑细选出那些"含金量最高"的片段,让机器人在更少的数据上学到更多可复用的行为规律。实验结果相当亮眼——仅用50%的演示数据和50%的训练步数,SIEVE筛选出的子集竟然能让机器人表现超过使用全部数据的训练效果。

一、机器人学习的困境:数据多,不等于学得好

要理解SIEVE解决的问题,得先搞清楚机器人是怎么学习操作技能的。

目前最主流的方法叫"模仿学习",更具体地说叫"行为克隆"。原理非常直白:给机器人看大量人类或其他机器人完成任务的演示,然后训练模型去模仿这些演示中的动作。每一条演示数据就像一段教学视频,机器人反复观看,试图内化这些动作规律。

但现实中的演示数据集存在三个严重问题。第一个问题是大量重复:同样把胡萝卜放到盘子里这个动作,数据集里可能有几百条几乎一模一样的演示,机器人反复学习这些高度相似的片段,既浪费时间,收益也微乎其微。第二个问题是质量良莠不齐:有些演示是人类随手操作的,动作迟疑、路径弯曲,根本不是值得学习的范本,把这些"坏示范"也喂给机器人,会让它产生混乱的学习信号。第三个问题是覆盖不均:某些简单任务的演示堆积如山,某些复杂动作的演示却寥寥无几,导致机器人对不同任务的掌握程度差距悬殊。

已有的数据筛选方法试图解决这些问题,但大多落入了两种极端。一种是从整条轨迹的角度看数据,把每条演示压缩成一个总体评分,然后根据评分决定留或不留。这种方式就像只看一本书的封面和简介来判断书的价值,容易忽略书中某些精彩的具体章节。另一种是从单个动作帧的角度逐帧筛选,这相当于把一整段舞蹈分解成一个个静止的姿势来评判,虽然细致,却失去了连贯动作序列的整体逻辑。

SIEVE的出发点是:这两个粒度都不够理想,机器人真正需要学习的,是介于"单帧动作"和"整条轨迹"之间的东西——那些在不同任务中反复出现的、可以被复用的行为片段,以及这些片段之间的衔接方式。

二、从信息压缩理论汲取灵感:什么样的数据才是"好数据"

研究团队的灵感来源于一个信息论中的经典思想,叫做"最小描述长度原则"。这个原则乍听起来很抽象,但换个方式理解就很直观:假如你要向朋友描述一首歌,最好的方式不是一句一句地原文复述歌词,而是先提炼出歌曲的旋律规律,然后用这套规律来压缩描述。规律越多、越可复用,描述就越简洁。

换到机器人学习的语境里,这个原则意味着:一个好的训练数据集,应该富含可以被机器人"压缩"进大脑的行为规律。那些在多条演示里反复出现的行为片段,正是这样的规律——机器人学会了这些片段,就相当于掌握了一套行为"子程序",面对新任务时可以灵活调取和组合。

具体到机器人操作任务,研究团队发现,一条完整的操作演示往往由若干个更基础的行为单元组成。以"把鸡蛋放进篮子"为例,整个任务可以拆解为:移动到鸡蛋旁边、抓取鸡蛋、移动到篮子上方、释放鸡蛋。每一段都是相对独立且可复用的行为单元,研究团队将其称为"原语"(primitives)。而连接两个相邻原语的过渡时刻——比如从"移动"切换到"抓取"——则被称为"转换接口"(transitions)。

SIEVE的核心主张是:筛选数据时,应当优先保留那些能让机器人接触到更多样化的原语和转换接口的演示,而不是盲目追求数量。

三、SIEVE的三步"精筛"流程:发现规律、分配预算、选出精品

SIEVE的工作流程可以用一个生动的比喻来理解:把它看成一个精明的图书馆员,面对堆积如山的书籍,他不仅要搞清楚每本书讲了什么故事,还要确保图书馆的藏书覆盖各种类型的情节和转折,同时每种类型都只留最具代表性的版本。

第一步是发现原语,也就是搞清楚"有哪些基本故事情节"。对于数据集中的每一条演示轨迹,SIEVE会先找到自然的分段点。这些分段点以机器人末端执行器(通俗说就是机器人的"手"或"手指")的状态变化为依据——比如夹爪从张开变成闭合(抓住了东西),或者从闭合变成张开(放开了东西)。这些关键时刻就像句子中的标点符号,将一段连续动作自然切割成若干片段。为了排除偶然的抖动干扰,只有持续超过五帧的状态变化才会被视为真正的分段边界。

切割出片段之后,系统用一个预训练的视频理解模型对每个片段进行"读解",提取其视觉语义特征。具体做法是从每个片段中均匀取出8帧,然后重点抓取起始帧、中间帧和结束帧的特征,将三者拼接成一个综合表示,既捕捉了片段的内容,也记录了粗略的时间演变。为了降低噪声并提高后续处理效率,特征还会被压缩到256维。

有了这些片段特征之后,系统对所有片段进行聚类——就像把图书馆里的书按照主题分类一样,把行为相似的片段归入同一个"原语类别"。为了自动确定最合适的类别数量,系统同时考量两个指标:一是不同演示在经过原语表示后是否仍然保持足够的区分度(如果所有演示看起来都一样,说明分类太粗了);二是每个发现的原语是否在足够多的演示中反复出现(如果某个类别只在一两条演示中出现,说明这不是一个普遍规律)。系统在这两个指标之间寻找最佳平衡点,自动选出最合适的类别数量。

第二步是分配筛选预算,也就是决定"每种故事情节留多少本书"。完成原语发现后,每条演示轨迹都被表示为一个有序的原语序列,称为"组合模式"。相同组合模式的演示被归为一组。此时系统面临的核心问题是:在总共只能保留一半数据的约束下,应该从每种组合模式中各取多少条演示?

SIEVE设计了一个"结构暴露目标"来回答这个问题。这个目标函数同时衡量两件事:保留的演示中出现了多少种不同的原语,以及出现了多少种不同的转换接口。出现在更多种组合模式中的原语和转换,会获得更高的权重——因为它们更具普遍性,学会了这些,机器人就能在更广泛的场景中灵活应对。

与此同时,目标函数引入了"边际效益递减"的设计:同一种原语或转换已经被很多条已选演示覆盖了之后,再增加包含相同元素的演示,获得的额外收益就会越来越小。这迫使系统主动寻找那些能覆盖到新的原语和转换的演示,而不是把预算全部砸在最常见的几种模式上。

预算分配的过程是贪心的:每次把一个名额分配给当前能带来最大边际收益的组合模式,如此反复直到总预算用完。这个策略在计算效率和分配质量之间取得了良好平衡。

第三步是在每种组合模式内部挑选最具代表性的演示,也就是"在每种类型的书里选最好的版本"。预算分配决定了每种组合模式应保留几条演示,但具体留哪几条,还需要进一步甄别。

这一步的关键思路是:相同组合模式的演示,动作逻辑是一样的,但具体执行细节可能因人而异,有的流畅标准,有的拖泥带水。对于机器人学习来说,最好的范本是那些最"中庸"、最具代表性的演示——它们既不是异常偏差的outlier,也不会带来前后矛盾的学习信号。

为了找到这样的演示,系统计算每条演示轨迹的整体特征表示,然后在同一组合模式内部找出与其他演示平均相似度最高的那条,称之为"中值演示"。其余演示按照与中值演示的距离排序,最接近中心的那些被优先保留。这个策略确保了选出的演示既具有代表性,又提供稳定一致的学习信号。

四、实验验证:数字背后的真实表现

研究团队在三个不同的机器人演示数据集上测试了SIEVE,涵盖了不同的机器人形态和任务类型。

第一个场景基于Bridge-V2数据集,这个数据集包含约5.3万条由WidowX机械臂完成的真实世界演示,任务涉及叠方块、把胡萝卜放到盘子上、把汤匙放到桌布上、把茄子放进篮子等日常操作。机器人策略的评估在模拟环境中进行,特意引入了不同的厨房背景和随机的物体摆放位置,以测试在没见过的场景下的泛化能力——这是非常有挑战性的评估条件。

第二个场景基于Fractal数据集,包含约8.7万条由Google机器人完成的操作演示,任务包括抓取可乐罐、移动物体到附近、开关抽屉等。第三个场景基于GR00T-X-Sim数据集,包含2.4万条由具有灵巧手的仿人机器人完成的模拟操作,任务涵盖24种不同的桌面操作。

实验将SIEVE与几种竞争方法进行了对比。全量训练作为基准,使用全部数据训练完整步数。随机采样方法从数据集中不加甄别地随机抽取。DemInf方法根据状态与动作之间的互信息来评估演示价值。SCIZOR方法通过识别冗余轨迹和低质量状态-动作对来过滤数据。所有方法使用相同的训练超参数,在8块NVIDIA H100显卡上进行训练。

在Bridge-V2上的核心实验中,SIEVE在各种评估条件下都取得了最高的平均成功率。最引人瞩目的结果是:仅用50%的演示数据配合25K训练步数(相当于全量训练一半的计算量),SIEVE的平均成功率达到56.3%,而使用全部数据训练50K步的全量基准只有51.8%。换言之,SIEVE用一半的资源超越了全量训练的效果,而不仅仅是与之持平。

当保留预算提升到70%时,SIEVE的优势进一步扩大,平均成功率达到62.3%(35K步)和62.5%(50K步),再次超过所有对比方法。与SCIZOR的对比也颇具说明性:SCIZOR在"把茄子放进篮子"这个任务上表现出色,成功率高达90%以上,但在"叠绿色方块到黄色方块上"和"把胡萝卜放到盘子上"这两个任务上成绩明显下滑。SIEVE则在四个任务上都保持了相对均衡的表现,综合成绩更优。

在Fractal和GR00T-X-Sim上,SIEVE同样以50%数据量和50%训练步数取得了所有方法中最高的平均成功率,分别为76.4%和54.8%,而全量训练的对应数字是75.0%和52.7%。在GR00T-X-Sim场景中,由于训练和评估环境都是仿真,随机采样也能略微超过全量训练,说明这个场景本身对数据筛选不那么敏感,但SIEVE仍然在所有方法中排名最高。

研究团队还测试了SIEVE筛选出的数据是否在不同类型的VLA模型上都有效。他们选用了两种不同架构的模型,一种用流匹配方法预测连续动作,另一种用并行连续预测配合L1损失。结果显示,SIEVE在两种模型上都显著超过了随机采样和全量训练,说明筛选效果并不依赖于特定的模型架构。

五、拆解实验:每个设计细节都在起作用

为了验证SIEVE各个组成部分的贡献,研究团队做了一系列消融实验——通俗地说,就是把系统的某个部件换掉或拆掉,看看效果会下降多少。

首先是针对"结构暴露分配"阶段的测试。如果去掉转换接口的暴露项,只保留原语暴露,平均成功率从56.3%下降到50.8%,跌幅超过5个百分点。如果反过来只去掉原语暴露项,成功率下降到51.6%。两项去除的影响都相当显著,其中去掉转换接口带来的损失更大,这说明原语之间的衔接方式对于机器人学习长序列操作同样至关重要,不亚于原语本身。

其次是针对"学习友好轨迹选择"阶段的测试。如果把"选择最接近中心的演示"改为"选择最远离中心的演示"(即刻意挑选最奇特、最多样化的演示),成功率直接跌至40.1%,比随机采样还差。这个结果很有说服力:在同一种行为模式内部,极端情况的演示并不是好的学习范本,反而会给机器人带来混乱的信号。如果在每个组合模式内部随机选择,成功率为53.7%,好于最差情况但仍落后于SIEVE的56.3%。由此可见,有策略地挑选代表性演示,确实比随机选或反向选都更有效。

研究团队还通过可视化分析了SIEVE如何改变数据集的组合模式分布。原始Bridge-V2数据集中,极少数高频组合模式占据了数据的绝大多数,而且其中有很多是只包含单一原语的简单轨迹,组合多样性很低。经过SIEVE筛选后,数据分布变得更加均衡,被优先保留的组合模式大多包含多个原语,覆盖了更丰富的原语类型和转换接口。这印证了SIEVE的设计意图:把数据的重心从"频繁但单一"的模式转向"多样且结构丰富"的模式。

说到底,SIEVE告诉我们一件听起来简单但实践中容易被忽略的事:数据的价值不在于它有多少,而在于它揭示了多少可以被复用的规律。机器人的学习和人类并无本质区别——与其反复做同一件事,不如在有限的练习中接触更多不同类型的动作组合,学会灵活调取和拼接已有的技能。

归根结底,这项研究提供的不仅是一个工具,更是一种思考数据价值的视角转变:从"我有多少数据"转向"我的数据揭示了多少可复用的结构"。这个视角的转变,或许对未来机器人学习、乃至更广泛的人工智能训练范式都有参考意义。如果你对这套方法的技术细节感兴趣,可以通过arXiv编号2607.06442查阅完整论文,代码也已在GitHub上公开。

Q&A

Q1:SIEVE方法和普通的数据随机筛选有什么本质区别?

A:随机筛选只是缩减了数据量,但没有考虑哪些数据更有价值。SIEVE的核心是识别演示数据中反复出现的行为片段(原语)和片段间的衔接方式(转换),然后优先保留那些能覆盖更多不同组合模式的演示。实验结果显示,随机采样50%数据的平均成功率只有39.6%,而SIEVE用同样50%的数据达到了56.3%,还超过了使用全量数据的训练效果。

Q2:SIEVE方法中的"原语"是怎么被自动发现的?

A:SIEVE通过机器人末端执行器(机械手)的状态变化来切割演示轨迹,比如夹爪从张开到闭合就是一个自然的分段边界。然后用预训练视频模型提取每段的视觉特征,再通过聚类算法把相似的片段归为同一类原语。原语的数量由系统自动确定,标准是让发现的原语既在足够多的演示中反复出现,又能区分不同轨迹的结构差异。

Q3:SIEVE筛选出的数据集换一个机器人模型训练还有效吗?

A:有效。研究团队测试了两种架构完全不同的VLA模型——一种用流匹配预测动作,另一种用并行预测配合L1损失。在两种模型上,SIEVE选出的50%数据都超过了随机采样和全量训练的效果,说明筛选收益来自数据本身的结构质量,而非针对特定模型的优化。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐