知了AI学习平台Logo知了
🧠AI 冷知识

你知道吗?

这些有趣的 AI 小知识可能让你大吃一惊

💡
全局平均池化的瘦身术

全局平均池化(GAP)把整个特征图压缩成一个数字——一个H×W的特征图变成一个1×1的标量。这个看似"暴力"的操作有两个巨大好处:一是消除了末端大型全连接层(传统CNN中AlexNet有90%参数在全连接层),大幅减少参数量和过拟合风险;二是让特征图天然具有"定位"语义——某个通道的高值区域对应图像中某个物体的位置。Network in Network(NiN)首次用GAP替代全连接层,GoogLeNet和ResNet纷纷效仿。后来的CAM(Class Activation Map)技术正是利用GAP的权重来生成热力图,可视化CNN"在看哪里"。

来源:Lin et al., "Network In Network", ICLR 2014

一句话总结
💡

池化层通过下采样降低特征图分辨率,提供平移不变性并减少计算量。

常见误区

这些坑别踩

✗

误区 1

池化只减小尺寸没有其他作用。

✓

正确理解

它还提供平移不变性和一定正则化效果。

✗

误区 2

最大池化一定比平均池化好。

✓

正确理解

最大池化保留显著特征,平均池化更平滑,各有适用。

✗

误区 3

现代网络都不用池化。

✓

正确理解

虽 stride 卷积可替代,但池化在许多架构中仍广泛使用。