2022-作业说明hw3

from:https://www.bilibili.com/video/BV1Wv411h7kN?p=35

学习目标

在这里插入图片描述

数据集介绍

在这里插入图片描述

baseline

在这里插入图片描述

模型选择

在这里插入图片描述

数据增强

在这里插入图片描述

mixup

在这里插入图片描述
使用mixup 需要改的地方
在这里插入图片描述

Test Time Augmentation(需要做多次才能显现它的优势,最后的test的加权多一点比较好)

在这里插入图片描述
在这里插入图片描述

Cross validation(需要对数据集做更改,这样就能train好几个model,不想做cross validation就把验证集划少一点,不需要这么多,只是用来验证 有无overfitting)

在这里插入图片描述
在这里插入图片描述

ensemble(average比较简单,voting可能会出现平手的情况需要处理)

在这里插入图片描述

没有GPU资源可以用Kaggle

在这里插入图片描述
在这里插入图片描述

kaggle时间管理

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

checkpoing 重新恢复训练(一种长时间避免断掉的技巧)

在这里插入图片描述

train多个model来做ensemble更保险

在这里插入图片描述

Experimental Tips

在这里插入图片描述

Other tricks…

在这里插入图片描述

colab IO很慢,建议用kaggle

在这里插入图片描述

Q1.数据增强

在这里插入图片描述

Q2.残差连接

在这里插入图片描述

提供的code 实作残差连接
在这里插入图片描述
在这里插入图片描述

print 维度,不用自己计算

在这里插入图片描述

训练 早停策略

在这里插入图片描述

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐