问题记录 Pytorch Nan Runtime Error :function‘MulBackward0’returned nan values in its oth output深度学习
问题记录 Pytorch Nan Runtime Error :function‘MulBackward0’returned nan values in its oth output深度学习
·
报错:
看了很多解决方法。包括
1.输入数据是否含有nan或者全是0
2.在梯度反向传播过程中是否出现为0
3.查看最后的loss是否是nan
4.learing rate过高
我尝试了一下
是learningrate和batchsize设置过高
同时改小
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)