一、关于GPU

CUDA是NVIDIA开发的并行计算平台和编程模型，用于利用NVIDIA GPU的并行计算能力，提供了通用的并行计算平台和编程模型;
cuDNN是NVIDIA专门针对深度学习应用开发的GPU加速库。

（一）CUDA

1.检查支持的最高版本CUDA Toolkit

win+R输入cmd，然后输入：

nvidia-smi 

即可查看硬件支持的最高版本CUDA Toolkit，如图所示：

右上角CUDA Version：12.7表明硬件支持的最高版本CUDA为12.7，也就是说，我们在下载CUDA时，最高只能下载12.7的。

注意：这里说的只是最高支持的版本，并不是我们实际使用的CUDA版本，下载的版本才是实际使用的。

2.下载CUDA

在官网下载: CUDA Toolkit Archive | NVIDIA Developer

注意：建议不要下载太高版本的CUDA，11.7就是一个不错的选择，太高的话，后面可能出现和包不匹配的报错，选低不选高，选旧不选新！

这里不再赘述安装过程，可以找其他文章看看~

3.查看当前使用的CUDA版本

输入以下指令即可查看我们当前使用的CUDA版本：

nvcc --version
//或者
nvcc -V

如图所示，我当前使用的CUDA版本为11.7，低于上面所说的12.7就可以配合GPU运行。

（二）cuDNN

还是在官网下载：cuDNN Archive

这里已经标明适配的CUDA版本，如果是11.7版本就下载匹配11.x的。

然后下载windows版本的。

解压以后，将三个文件夹粘贴到CUDA的下属文件夹中(…/NVIDIA GPU Computing Toolkit/CUDA/v11.7)，有重名文件夹直接覆盖即可，会整合进去。

二、关于torch(gpu版)

下载完GPU驱动，再来下载GPU版的torch，注意一定是GPU版的而不是CPU版的！！！

（一）从镜像源下载安装包

pytorch官网有适配不同版本CUDA的安装命令：previous-versions

比如：

# CUDA 11.7
conda install pytorch==2.0.0 torchvision==0.15.0 torchaudio==2.0.0 pytorch-cuda=11.7 -c pytorch -c nvidia
# CUDA 11.8
conda install pytorch==2.0.0 torchvision==0.15.0 torchaudio==2.0.0 pytorch-cuda=11.8 -c pytorch -c nvidia
# CPU Only
conda install pytorch==2.0.0 torchvision==0.15.0 torchaudio==2.0.0 cpuonly -c pytorch

可以按照命令安装，不过不建议直接conda或pip安装，配置镜像后速度很慢，还容易下载成cpu版本，这里截取一个别的博主发的踩坑合集，我大概也是这么走过来的，配置了镜像不知道怎么回事也是不行，反正就是深有体会吧：

建议直接从镜像源下载包至本地，然后安装！可以从上面的官网查看自己所安装的CUDA匹配的torch、torchvision、torchaudio版本，然后从镜像源下载，比如清华镜像源：mirrors.tuna.tsinghua.edu.cn

搜索所需的三个安装包的名字，找对应的下载文件（建议直接搜索版本号，找的比较快），比如：

pytorch==2.0.0 torchvision==0.15.0 torchaudio==2.0.0

注意，py39指python3.9，cu117指CUDA11.7，一定要按照自己的环境进行下载对应版本的包，否则后面会不匹配！！！

下载好后，在要下载包的虚拟环境中，转到对应的下载文件夹下，输入命令：

//离线安装
conda install --offline xxx.tar.bz2

把三个要安装的包都install一下就可以了~

检查一下安装的是不是GPU版本，输入pip list，看一下安装的torch版本，如果是有+cu的，就是GPU版本，如果没有带+cu，就是CPU版本，要卸载重新安装，否则会报错！

写在后面

这个专栏主要是我在学习中总结的一些问题，以备未来笔试和面试之需，不过由于学习的不深入，也只是走马观花，很多问题总结得也不是很透彻，望读者见谅，如果有错误和不足之处，还望大家在评论区指出。希望能给大家的学习带来一点帮助，共同进步！！!