MV-DUSt3R+:两秒内从稀疏视角进行单阶段场景重建的开源实现

【免费下载链接】mvdust3r Open source impl of **MV-DUSt3R+ Single-Stage Scene Reconstruction from Sparse Views In 2 Seconds** from Meta Reality Labs. Project page https://mv-dust3rp.github.io/ 【免费下载链接】mvdust3r 项目地址: https://gitcode.com/gh_mirrors/mv/mvdust3r

1. 项目介绍

MV-DUSt3R+ 是由 Meta Reality Labs 开发的一种新型单阶段场景重建技术,能够从稀疏视角在两秒内完成 RGB-only 3D 场景重建。该技术不仅支持新视角的合成,还能进行相对位姿估计。MV-DUSt3R+ 的开源实现提供了一种高效、快速的三维场景重建方法,适用于多种应用场景。

2. 项目快速启动

克隆项目

首先,在 Linux 服务器上,使用以下命令克隆项目:

git clone https://github.com/facebookresearch/mvdust3r.git
cd mvdust3r

安装虚拟环境

在 Anaconda 环境中,运行以下脚本安装所需依赖:

./install.sh

注意:如果需要使用其他版本的 CUDA,需要相应地修改 PyTorch 和 PyTorch3D 的版本。

(可选)编译 CUDA 内核

为了提高运行速度,可以选择编译 RoPE 的 CUDA 内核:

cd croco/models/curope/
python setup.py build_ext --inplace
cd ../../../

下载预训练模型

从以下链接下载预训练模型,并将其放入 checkpoints 文件夹中:

下载预训练模型

3. 应用案例和最佳实践

运行演示

使用以下命令运行演示:

python demo.py --weights ./checkpoints/{CHECKPOINT}

这里 {CHECKPOINT} 是下载的预训练模型的文件名。

评估和测试

项目提供了多个脚本来在 ScanNet 数据集上进行评估和测试。以下是一些示例脚本:

  • test_mvd.sh:使用 MV-DUSt3R 模型进行测试。
  • test_mvdp_stage1.sh:使用 MV-DUSt3R+ 模型在第一阶段进行测试。
  • test_mvdp_stage2.sh:使用 MV-DUSt3R+ 模型在第二阶段进行测试。

4. 典型生态项目

MV-DUSt3R+ 的开源实现可以集成到多种三维场景重建和可视化项目中,为开发者和研究人员提供了一个强大的工具。其快速、高效的特点使得它适用于实时应用,如虚拟现实、增强现实和机器人导航等。

以上就是关于 MV-DUSt3R+ 开源实现的教程,希望对您的项目有所帮助。

【免费下载链接】mvdust3r Open source impl of **MV-DUSt3R+ Single-Stage Scene Reconstruction from Sparse Views In 2 Seconds** from Meta Reality Labs. Project page https://mv-dust3rp.github.io/ 【免费下载链接】mvdust3r 项目地址: https://gitcode.com/gh_mirrors/mv/mvdust3r

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐