【李宏毅2022 机器学习春】2022-作业说明hw3
·
文章目录
- 2022-作业说明hw3
- 学习目标
- 数据集介绍
- baseline
- 模型选择
- 数据增强
- Test Time Augmentation(需要做多次才能显现它的优势,最后的test的加权多一点比较好)
- Cross validation(需要对数据集做更改,这样就能train好几个model,不想做cross validation就把验证集划少一点,不需要这么多,只是用来验证 有无overfitting)
- ensemble(average比较简单,voting可能会出现平手的情况需要处理)
- 没有GPU资源可以用Kaggle
- checkpoing 重新恢复训练(一种长时间避免断掉的技巧)
- train多个model来做ensemble更保险
- Experimental Tips
- Other tricks...
- colab IO很慢,建议用kaggle
- Q1.数据增强
- Q2.残差连接
- print 维度,不用自己计算
- 训练 早停策略
2022-作业说明hw3
from:https://www.bilibili.com/video/BV1Wv411h7kN?p=35
学习目标

数据集介绍

baseline

模型选择

数据增强

mixup

使用mixup 需要改的地方

Test Time Augmentation(需要做多次才能显现它的优势,最后的test的加权多一点比较好)


Cross validation(需要对数据集做更改,这样就能train好几个model,不想做cross validation就把验证集划少一点,不需要这么多,只是用来验证 有无overfitting)


ensemble(average比较简单,voting可能会出现平手的情况需要处理)

没有GPU资源可以用Kaggle


kaggle时间管理



checkpoing 重新恢复训练(一种长时间避免断掉的技巧)

train多个model来做ensemble更保险

Experimental Tips

Other tricks…

colab IO很慢,建议用kaggle

Q1.数据增强

Q2.残差连接

提供的code 实作残差连接


print 维度,不用自己计算

训练 早停策略

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐
所有评论(0)