深度学习里面为什么喜欢用对数
·
1.这样可以简化计算并提高稳定性,有着相同的临界点
2.由P(A).P(B)给出两个独立事件A和B共同出现的概率。如果我们使用log,即log(P(A)) + log(P(B)),这很容易映射到一个和。因此,更容易将神经元触发的“事件”作为线性函数来处理。
3将两个或更多这样的小数字相乘很容易导致浮点精度算术中的下溢(例如,考虑乘以0.0001*0.00001)
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐

所有评论(0)