残差网络（ResNet）

中文版 mxnet
1

http://zh.d2l.ai/chapter_convolutional-modern/resnet.html

2

话说，不应该直接用ResNet作为现代网络的分割吗？

以及，为什么没看见MobileNet，PyramidNet以及各种变种ResNet的说明呢？是它们的表现不好吗？

3

hi @Neutron3529, 很棒的问题。深度学习起源于上世纪50年代，我们将本世纪发明的CNN列为“现代”，所以从Alexnet开始。mobilenet等应用广泛，我们会考虑未来加入书中～

4

mxnet版本，定义Residual这个类时把以下两行注释掉

self.bn1 = nn.BatchNorm()

self.bn2 = nn.BatchNorm()

在forward函数中直接用nn.BatchNorm()来替换它们，运行这个类不会报错，但在调用时就会报错，请问是为什么？

image
image1366×768 29.7 KB

5

e964a166adc3061e3f21d5cca716485
e964a166adc3061e3f21d5cca7164851137×351 20 KB

googlenet的第一个通道和resnet的创新点处的做法类似，是不是说在googlenet里面其实就已经蕴含了resnet的残差思想？有大佬可以解释一下两个网络这个做法的区别吗？感觉好像在googlenet就已经出现了这种resnet的思想了