TLabel × RoboMIND:如何用统一标准标注 1.4GB 触觉数据?
当北京人形机器人创新中心发布 RoboMIND 2.0 时,我第一次看到了大规模触觉数据的标准化可能性。这篇文章记录了我用 TLabel 对 RoboMIND AgileX 数据集进行标注测试的全过程——从 1.4GB HDF5 文件到质量评分,从 Tashan 传感器适配到 14 维 Schema 映射。
为什么触觉数据需要"标注"?
如果你训练过机器人抓取模型,一定遇到过这个问题:视觉数据有 COCO、ImageNet,但触觉数据连个统一的标注格式都没有。
每个数据集都在自说自话:
- DexMIMIC 用的是
(T, 128, 128)的 GelSight 图像 - RoboMIND 用的是
(T, 2, 6)的 Tashan 力传感器数据 - 戴盟用的是
(T, 384, 288)的形变+剪切+深度三通道数据
数据格式不统一,模型就学不到可迁移的特征。
这就是我们做 TLabel 的初衷:一个统一的触觉标注格式标准,让不同传感器、不同数据集的数据都能用同一套 Schema 来描述。
RoboMIND 2.0:触觉数据的"破局者"
2026 年 7 月,北京人形机器人创新中心发布了 RoboMIND 2.0。除了 310K 条双臂操作轨迹、759 个任务这些"常规操作"外,最让我兴奋的是:它包含了 1.2 万条带触觉的操作数据。
这些触觉数据来自 Tashan TS-F-A 指尖力传感器,部署在 AgileX Cobot Magic V2.0 移动双臂机器人上。数据格式是 (T, 2, 6) float32:
表格
| 维度 | 含义 | 单位 |
|---|---|---|
| dim0 | normal_force | N(法向力) |
| dim1 | tangential_force | N(切向力) |
| dim2 | tangential_direction | rad(切向方向) |
| dim3 | tangential_fx | N(切向力 x 分量) |
| dim4 | tangential_fy | N(切向力 y 分量) |
| dim5 | contact_indicator | binary(接触指示) |
其中 65535.0 是无效值标记(uint16 overflow)。
这是目前公开数据集中,少有的同时包含法向力、切向力、力方向角的完整 3D 力向量数据。
用 TLabel 标注 RoboMIND 数据
第一步:tashan 适配器
TLabel 的 tashan_ts_f_a 适配器专门针对这种数据格式设计。它做三件事:
- 解析 HDF5:读取
tactile_observations/tactile_{left/right}_align/data - 无效值过滤:检测
65535.0标记,将其标记为 L1(无接触) - Schema 映射:将 6 维原始数据映射到 TLabel 14 维 Schema
关键代码(简化版):
def extract_schema(self, raw_frame_data):
nf = raw_frame_data["normal_force"]
tf = raw_frame_data["tangential_force"]
fx = raw_frame_data["tangential_fx"]
fy = raw_frame_data["tangential_fy"]
# 无效值处理
if nf == 65535.0 or tf == 65535.0:
return TLabelSchemaV2(
contact=False,
compliance_level="L1",
)
# 接触检测
contact = bool(nf > 0.01 or tf > 0.01)
return TLabelSchemaV2(
contact=contact,
force_magnitude=float(nf) if contact else 0.0,
force_vector=[float(fx), float(fy), float(nf)] if contact else None,
compliance_level="L3" if contact else "L1",
raw_sensor_values={...}, # 保留原始 6 维数据
)
第二步:运行标注
我拿到的是 RoboMIND 2.0 AgileX 的三个样本数据集:
表格
| 数据集 | 文件大小 | HDF5 路径 |
|---|---|---|
| data | 338 MB | data/trajectory.hdf5 |
| data1 | 608 MB | data1/trajectory.hdf5 |
| data2 | 460 MB | data2/trajectory.hdf5 |
用 TLabel 0.22.4 运行标注:
from tlabel.adapters.tashan_ts_f_a import TashanTsFAAdapter
adapter = TashanTsFAAdapter()
for name in ['data', 'data1', 'data2']:
tlabel_data = adapter.load(f"E:\\数据集\\RoboMIND2.0-Agilex-mobile\\{name}\\trajectory.hdf5")
# 自动完成:帧解析 → 接触检测 → 力向量计算 → 合规级别判定
标注结果
表格
| 数据集 | 总帧数 | 接触帧数 | 接触率 | 平均力 | 最大力 | L1/L3 分布 | 质量分 |
|---|---|---|---|---|---|---|---|
| data | 5,176 | 3,882 | 75.0% | 24.87 N | 30.40 N | 1294 / 3882 | 85.3 |
| data1 | 8,264 | 7,248 | 87.7% | 5.67 N | 23.29 N | 1016 / 7248 | 65.1 |
| data2 | 6,520 | 3,375 | 51.8% | 3.68 N | 12.31 N | 3145 / 3375 | 50.7 |
| 总计 | 19,960 | 14,505 | 72.7% | - | - | - | - |
几个关键发现:
- 接触率 72.7% :说明这些轨迹大多是在操作物体,而不是空挥
- data 数据集质量最高(85.3 分):接触率 75%,力分布均匀(平均 24.87 N,标准差小)
- data2 数据集接触率最低(51.8%):可能是任务本身不需要持续接触,或者传感器有遮挡
- L3 级别占比高:大部分接触帧都有完整的 3D 力向量
[fx, fy, nf]
质量评分算法
TLabel 的质量评分基于三个维度:
- 接触率(40%) :接触帧数 / 总帧数
- 力分布均匀性(30%) :变异系数越小,分数越高
- 数据完整性(30%) :是否有缺失帧、无效值等
data 数据集的均匀性得分最高(25.28/30),因为它的力值集中在 22-30 N 之间,说明是一个稳定的抓取任务。
从 RoboMIND 到 LeRobot:TLabel 的桥梁作用
RoboMIND 的触觉数据格式是 (T, 2, 6),而 LeRobot v2.1 期望的是 (T, D) 的标准特征格式。TLabel 的 lerobot_export 功能可以一键转换:
tlabel export data/trajectory.hdf5 output/ --adapter tashan_ts_f_a
输出符合 LeRobot v2.1 规范的数据集,包含:
observation.state:机器人关节状态action:目标动作observation.tactile:触觉特征(来自 TLabel Schema 的force_magnitude和force_vector)
这让 RoboMIND 的触觉数据可以直接用于训练 LeRobot 模型。
结论
RoboMIND 2.0 是具身智能领域的一个重要里程碑,它首次大规模地提供了触觉数据,让多模态策略学习成为可能。
TLabel 的作用是:为这些触觉数据提供统一的标注标准和质量评估,让它们更容易被不同框架(LeRobot、ACT、Diffusion Policy)复用。
下一步计划:
- 向 RoboMIND 官方提交 Issue,建议将 TLabel 作为触觉数据的官方标注工具
- 发布 RoboMIND → LeRobot 的完整转换教程
- 开源 tashan 适配器的详细文档
如果你也在做触觉数据相关的工作,欢迎交流。
参考链接:
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐


所有评论(0)