深度学习之四

卷积神经网络进阶（alexnet）

为什么要有不同的网络结构？
不同的网络结构解决的问题不同。
不同的网络结构使用的技巧不同。
不同的网络结构应用的场景不同。

每次的dropout都是随机的，所以结果相当于是很多子网络的组合，在机器学习中模型组合一般是能提升最后的模型效果。

神经元之间的依赖关系被消除，就降低了过拟合的风险。过拟合是神经元记住了所有的数据，而一个神经元是记不住的，而是需要多个神经元去组合与配合。而dropout每次都去随机删掉一些神经元，使得神经元之间去组合记忆的环境就不存在了，所以神经元之间的依赖关系被消除，就降低了过拟合的风险。