🧠AI 冷知识
你知道吗?
这些有趣的 AI 小知识可能让你大吃一惊
💡
全局平均池化的瘦身术全局平均池化(GAP)把整个特征图压缩成一个数字——一个H×W的特征图变成一个1×1的标量。这个看似"暴力"的操作有两个巨大好处:一是消除了末端大型全连接层(传统CNN中AlexNet有90%参数在全连接层),大幅减少参数量和过拟合风险;二是让特征图天然具有"定位"语义——某个通道的高值区域对应图像中某个物体的位置。Network in Network(NiN)首次用GAP替代全连接层,GoogLeNet和ResNet纷纷效仿。后来的CAM(Class Activation Map)技术正是利用GAP的权重来生成热力图,可视化CNN"在看哪里"。
来源:Lin et al., "Network In Network", ICLR 2014
一句话总结
💡
池化层通过下采样降低特征图分辨率,提供平移不变性并减少计算量。
常见误区
这些坑别踩
✗
误区 1
池化只减小尺寸没有其他作用。
✓
正确理解
它还提供平移不变性和一定正则化效果。
✗
误区 2
最大池化一定比平均池化好。
✓
正确理解
最大池化保留显著特征,平均池化更平滑,各有适用。
✗
误区 3
现代网络都不用池化。
✓
正确理解
虽 stride 卷积可替代,但池化在许多架构中仍广泛使用。