VggNet（2014）
Abstract
本文研究了卷积神经网络的深度对其准确率的影响，通过使用3×3的卷积核（very small)，我们发现了当深度达到16-19层时准确率有重大提高。这一成功赢得了2014 ImageNet冠军。
Network Configurations
输入为224*224 RGB图，预处理为均值化，大量使用3×3卷积核（有时也用1×1卷积核作为线性变换），stride=1，padding=1，max-pooling使用2×2window，stride=2. 最后使用3层全连接层。所有hidden layer使用ReLU函数，除了一种网络外其他均未使用Local Response Normalisation因为它并不能改善性能。
1×1卷积层的作用是在不影响接收野的情况下增加决策函数的非线性（利用ReLU）
与其他网络最大的不同是在整个网络中都使用了小的卷积核
使用多个小卷积核代替大卷积核有助于减少参数，唯一的不足是反向传播时中间层可能会占用较多内存