提示:我会随着学习的不断加深,增加相应的内容


前言

https://blog.csdn.net/CHONGjjj/article/details/132077998(微调,训练模型参考这篇博客)

一、PVN3D

在这里插入图片描述

PVN3D是一个基于深度学习的方法,可以从单张RGB-D(彩色+深度)图像中,精准地预测出目标物体的6D姿态(即3D位置(物体的中心)和3D朝向)。这个姿态信息,恰好就是机械臂需要知道的“抓取位姿”,因此PVN3D可以看做是机器人的“眼睛”。它能做到高精度,关键在于其“3D关键点投票”的策略:

  • 不直接预测:它不直接计算物体的旋转和平移(这通常很难),而是换了一种思路。检测关键点:先在物体的三维点云数据中,检测出几个具有几何意义的“3D关键点”(例如物体的8个角点)。
  • 拟合算姿态:计算出这些关键点的位置后,再通过数学上的“最小二乘法拟合”,精确地反推出物体的完整6D姿态。这种方法极大地利用了物体刚体的几何约束,使得算法更易于学习和优化,从而获得更高、更鲁棒的精度。

1.1 为什么是 “预测”,而不是 “计算 / 检测”?

  • 点云是离散的、有噪声的,立方体的角点不一定是点云中真实存在的点,也可能被遮挡、缺失。
  • 模型的任务,是学习物体的几何形状规律,即使角点被挡住了,也能根据可见部分的点云,推断出它 “应该” 在的位置。这个 “推断” 的过程,就是深度学习里说的预测

1.2数据相应的格式

  • YCB-Video数据集:平均精度很高,适用于家庭和仓储场景。
  • LineMOD数据集:在工业级物体上精度出色。工业应用验证:已被初步证实是工业级应用的可行方案。
Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐