零填充引发统计偏差：CNN边缘激活失真与等价性破坏

背景介绍

零填充（Zero Padding）是卷积神经网络（CNN）常用的结构手段，旨在让卷积核能够覆盖图像边缘并保持特征图的空间尺寸。大多数深度学习框架默认采用常数填充‑0，开发者往往认为这是一种“无害”操作。

零填充的隐藏问题

从信号处理和统计视角审视，零填充实际上在图像边界制造了强烈的强度跳变。该跳变相当于人为制造的锐利边缘，卷积核会对其产生显著响应，导致模型在边缘像素处学习到与中心像素不同的统计特性，进而破坏平移等价性（translation equivariance）。

实验演示

• 实验对象：使用一张灰度变色龙图片（分辨率 256×256），先进行标准化处理。
• 零填充：在四周各添加 50 像素的全零边框，形成 356×356 的填充图像。
• 卷积核：采用 Laplacian 边缘检测核 [[‑1,‑1,‑1],[‑1,8,‑1],[‑1,‑1,‑1]]，分别对原图和填充图进行相关运算。
• 结果观察：
  • 原图的边缘响应仅集中在真实纹理上。
  • 填充图的边缘响应在人工黑框处出现强烈激活，显著高于真实边缘。
  • 直方图显示，填充图的像素强度分布在 0.0 处出现大幅尖峰，说明统计分布被人为扭曲。

统计偏移分析

1. 像素分布偏移：零填充导致大量 0 值像素，显著改变整体像素直方图形态。
2. 特征激活不均：边缘卷积层的激活值在填充区域与中心区域呈现不同的均值和方差。
3. 平移等价性破坏：模型对同一图像进行水平平移后，边缘区域的激活模式会因填充位置变化而产生差异，违背了 CNN 设计的平移不变性假设。

替代方案与实践建议

• 反射填充（Reflect Padding）：使用图像边缘的镜像像素填充，保持强度连续性，显著降低人工边缘激活。
• 复制填充（Replication Padding）：复制最靠近的真实像素，避免出现 0‑值突变。
• 无填充+更大卷积核：在网络深度足够的情况下，直接采用不填充的卷积结构，配合更大的感受野。
• 边缘感知层：在网络前端加入专门的边缘感知模块，对填充区域进行显式掩码处理。

结论：零填充虽在模型设计上提供便利，却在统计层面埋下隐形偏差。对生产级系统而言，推荐使用反射或复制填充，以保持像素分布的连续性和模型的平移等价性，从而提升模型的鲁棒性与泛化能力。