当北京人形机器人创新中心发布 RoboMIND 2.0 时,我第一次看到了大规模触觉数据的标准化可能性。这篇文章记录了我用 TLabel 对 RoboMIND AgileX 数据集进行标注测试的全过程——从 1.4GB HDF5 文件到质量评分,从 Tashan 传感器适配到 14 维 Schema 映射。

为什么触觉数据需要"标注"?

如果你训练过机器人抓取模型,一定遇到过这个问题:视觉数据有 COCO、ImageNet,但触觉数据连个统一的标注格式都没有

每个数据集都在自说自话:

  • DexMIMIC 用的是 (T, 128, 128) 的 GelSight 图像
  • RoboMIND 用的是 (T, 2, 6) 的 Tashan 力传感器数据
  • 戴盟用的是 (T, 384, 288) 的形变+剪切+深度三通道数据

数据格式不统一,模型就学不到可迁移的特征。

这就是我们做 TLabel 的初衷:一个统一的触觉标注格式标准,让不同传感器、不同数据集的数据都能用同一套 Schema 来描述。

RoboMIND 2.0:触觉数据的"破局者"

2026 年 7 月,北京人形机器人创新中心发布了 RoboMIND 2.0。除了 310K 条双臂操作轨迹、759 个任务这些"常规操作"外,最让我兴奋的是:它包含了 1.2 万条带触觉的操作数据

这些触觉数据来自 Tashan TS-F-A 指尖力传感器,部署在 AgileX Cobot Magic V2.0 移动双臂机器人上。数据格式是 (T, 2, 6) float32

表格

维度含义单位
dim0normal_forceN(法向力)
dim1tangential_forceN(切向力)
dim2tangential_directionrad(切向方向)
dim3tangential_fxN(切向力 x 分量)
dim4tangential_fyN(切向力 y 分量)
dim5contact_indicatorbinary(接触指示)

其中 65535.0 是无效值标记(uint16 overflow)。

这是目前公开数据集中,少有的同时包含法向力、切向力、力方向角的完整 3D 力向量数据。

用 TLabel 标注 RoboMIND 数据

第一步:tashan 适配器

TLabel 的 tashan_ts_f_a 适配器专门针对这种数据格式设计。它做三件事:

  1. 解析 HDF5:读取 tactile_observations/tactile_{left/right}_align/data
  2. 无效值过滤:检测 65535.0 标记,将其标记为 L1(无接触)
  3. Schema 映射:将 6 维原始数据映射到 TLabel 14 维 Schema

关键代码(简化版):

def extract_schema(self, raw_frame_data):

nf = raw_frame_data["normal_force"]

tf = raw_frame_data["tangential_force"]

fx = raw_frame_data["tangential_fx"]

fy = raw_frame_data["tangential_fy"]

# 无效值处理

if nf == 65535.0 or tf == 65535.0:

return TLabelSchemaV2(

contact=False,

compliance_level="L1",

)

# 接触检测

contact = bool(nf > 0.01 or tf > 0.01)

return TLabelSchemaV2(

contact=contact,

force_magnitude=float(nf) if contact else 0.0,

force_vector=[float(fx), float(fy), float(nf)] if contact else None,

compliance_level="L3" if contact else "L1",

raw_sensor_values={...}, # 保留原始 6 维数据

)

第二步:运行标注

我拿到的是 RoboMIND 2.0 AgileX 的三个样本数据集:

表格

数据集文件大小HDF5 路径
data338 MBdata/trajectory.hdf5
data1608 MBdata1/trajectory.hdf5
data2460 MBdata2/trajectory.hdf5

用 TLabel 0.22.4 运行标注:

from tlabel.adapters.tashan_ts_f_a import TashanTsFAAdapter



adapter = TashanTsFAAdapter()



for name in ['data', 'data1', 'data2']:

tlabel_data = adapter.load(f"E:\\数据集\\RoboMIND2.0-Agilex-mobile\\{name}\\trajectory.hdf5")

# 自动完成:帧解析 → 接触检测 → 力向量计算 → 合规级别判定

标注结果

表格

数据集总帧数接触帧数接触率平均力最大力L1/L3 分布质量分
data5,1763,88275.0%24.87 N30.40 N1294 / 388285.3
data18,2647,24887.7%5.67 N23.29 N1016 / 724865.1
data26,5203,37551.8%3.68 N12.31 N3145 / 337550.7
总计19,96014,50572.7%----

几个关键发现

  1. 接触率 72.7% :说明这些轨迹大多是在操作物体,而不是空挥
  2. data 数据集质量最高(85.3 分):接触率 75%,力分布均匀(平均 24.87 N,标准差小)
  3. data2 数据集接触率最低(51.8%):可能是任务本身不需要持续接触,或者传感器有遮挡
  4. L3 级别占比高:大部分接触帧都有完整的 3D 力向量 [fx, fy, nf]

质量评分算法

TLabel 的质量评分基于三个维度:

  • 接触率(40%) :接触帧数 / 总帧数
  • 力分布均匀性(30%) :变异系数越小,分数越高
  • 数据完整性(30%) :是否有缺失帧、无效值等

data 数据集的均匀性得分最高(25.28/30),因为它的力值集中在 22-30 N 之间,说明是一个稳定的抓取任务。

从 RoboMIND 到 LeRobot:TLabel 的桥梁作用

RoboMIND 的触觉数据格式是 (T, 2, 6),而 LeRobot v2.1 期望的是 (T, D) 的标准特征格式。TLabel 的 lerobot_export 功能可以一键转换:

tlabel export data/trajectory.hdf5 output/ --adapter tashan_ts_f_a

输出符合 LeRobot v2.1 规范的数据集,包含:

  • observation.state:机器人关节状态
  • action:目标动作
  • observation.tactile:触觉特征(来自 TLabel Schema 的 force_magnitude 和 force_vector

这让 RoboMIND 的触觉数据可以直接用于训练 LeRobot 模型。

结论

RoboMIND 2.0 是具身智能领域的一个重要里程碑,它首次大规模地提供了触觉数据,让多模态策略学习成为可能。

TLabel 的作用是:为这些触觉数据提供统一的标注标准和质量评估,让它们更容易被不同框架(LeRobot、ACT、Diffusion Policy)复用。

下一步计划

  • 向 RoboMIND 官方提交 Issue,建议将 TLabel 作为触觉数据的官方标注工具
  • 发布 RoboMIND → LeRobot 的完整转换教程
  • 开源 tashan 适配器的详细文档

如果你也在做触觉数据相关的工作,欢迎交流。

参考链接

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐