残差网络(ResNet)

http://zh.d2l.ai/chapter_convolutional-modern/resnet.html

话说,不应该直接用ResNet作为现代网络的分割吗?

以及,为什么没看见MobileNet,PyramidNet以及各种变种ResNet的说明呢?是它们的表现不好吗?

hi @Neutron3529, 很棒的问题。深度学习起源于上世纪50年代,我们将本世纪发明的CNN列为“现代”,所以从Alexnet开始。mobilenet等应用广泛,我们会考虑未来加入书中~

mxnet版本,定义Residual这个类时把以下两行注释掉

self.bn1 = nn.BatchNorm()

self.bn2 = nn.BatchNorm()

在forward函数中直接用nn.BatchNorm()来替换它们,运行这个类不会报错,但在调用时就会报错,请问是为什么?


googlenet的第一个通道和resnet的创新点处的做法类似,是不是说在googlenet里面其实就已经蕴含了resnet的残差思想?有大佬可以解释一下两个网络这个做法的区别吗?感觉好像在googlenet就已经出现了这种resnet的思想了

因为googlenet是在通道维相加(准确地说是合并),而resnet是值相加