pytorch半精度half计算loss得到nan的可能解决方法
计算loss的时候，临时把half类型的转成float类型。half是指float16类型的，float代表float32。我也不知道为什么half类型的输出送到损失函数中不能得到正确的损失，如果您知道为什么，可以在下方留言。...
·
计算loss的时候，临时把half类型的转成float类型。
half是指float16类型的，float代表float32。
我也不知道为什么half类型的输出送到损失函数中不能得到正确的损失，如果您知道为什么，可以在下方留言。
DAMO开发者矩阵，由阿里巴巴达摩院和中国互联网协会联合发起，致力于探讨最前沿的技术趋势与应用成果，搭建高质量的交流与分享平台，推动技术创新与产业应用链接，围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐
0
0- 0
已为社区贡献3条内容
所有评论(0)