自AlexNet赢得2012年ImageNet竞赛以来，每个新的获胜架构通常都会增加更多层数以降低错误率。一段时间内，增加层数确实有效，但随着网络深度的增加，深度学习中一个常见的问题——梯度消失或梯度爆炸开始出现。梯度消失问题会导致梯度值变