文件：main.py

step1 : 选择modelname

 step2 :dropout改为0.1

 step3:模型选择DAB-Deformable-DETR two-stage改为True

step4:dataset部分修改

这部分修改后，还需要对dataset/init.py和coco.py文件进行修改

step5: output输出保存文件地址修改

step6:预训练权重模型地址 

按需在readme中下载权重文件

 模型训练到一半中断也可以将output输出保存文件夹中的checkpoint.pth文件地址放在resume这里，会在中断的地方继续训练

step7:batch size和num_workers数量根据自己的显卡情况修改

 step8:amp混合精度训练按需开启

默认不开

 文件夹：datasets

step1:coco.py

创建buid_my函数，设置数据集地址

 step2:init.py

 注意和main.py文件中的数据集文件名一致

文件：models/dab_deformable_detr/dab_deformable_detr.py

step1:num_classes设置

数据集类别+1（背景）

tensorboard训练过程可视化

engine.py

 情况1：AutoDL的Tensorborad监控

服务器终端输入：

端口一定是6007

​​​​​​​tensorboard --port=6007 --logdir=runs地址（summarywriter中填写的绝对地址，默认是runs）

如果报错，输入下列命令：

ps -ef | grep tensorboard | awk '{print $2}' | xargs kill -9

 情况2：本地查看Tensorboard

本地终端输入：

tensorboard --logdir=./runs --port 6006(端口自定)

Tensorboard 驯服过程-CSDN博客