Padding造成 "盲点"! 检查那些盲点！

三个要点
✔️ 演示填充如何产生 CNN 伪影（盲点）
✔️ 识别 0 填充的不均匀应用是一个可解决的偏差来源。
✔️ Padding与CNN的foveation有关

Mind the Pad -- CNNs can Develop Blind Spots
written by Bilal Alsallakh, Narine Kokhlikyan, Vivek Miglani, Jun Yuan, Orion Reblitz-Richardson
(Submitted on 5 Oct 2020)
Comments: Accepted at ICLR2021
Subjects: Computer Vision and Pattern Recognition (cs.CV); Artificial Intelligence (cs.AI); Machine Learning (stat.ML)
Paper  Official Code COMM Code

介绍

卷积神经网络（CNN）已经成为各种机器学习任务的最先进的特征提取器。很多工作都集中在理解CNN对输入计算的特征图上，但很少有人关注特征图内的空间分布。作者之所以对这一点感兴趣，是由一个神秘的信号检测器故障案例引发的。这意味着，在一帧车载摄像头序列中，可以检测到一个小而明显的交通灯。但在下一帧中，它未能检测到相同的交通灯。

这很有趣。本来我们应该能够高精度的检测到红绿灯，但是只检测了一帧，就检测不到了，唯一不同的是，在输入图像中，汽车是向前行驶的，所以红绿灯在垂直方向上发生了轻微的偏移。在输入图像中，唯一不同的是，由于汽车在向前行驶，信号在垂直方向上略有偏移。你经常听到CNN是不变的。尽管如此，这项研究还是开始了，因为令人不安的是，有的情况下，只需轻微的转变就无法发现。

最后，作者将其归结为在分析特征图激活的空间分布时，存在一个不一致的伪影（顺便说一句，很多影像研究者可能都见过这个伪影）。在这项研究中，我们研究了这些假象的原因和影响。

本研究的贡献如下

• 演示填充物如何产生CNN伪影。
• 检查这些人工制品对任务的影响。
• 将0-padding的不均匀应用确定为可解决的偏差来源。
• 填充物与CNN的蜂窝行为有关

加藤

AI-SCHOLAR是一个评论媒体，以通俗易懂的方式介绍关于AI（人工智能）的最新文章。 人工智能的作用不仅限于技术创新，日本的科研能力正在下降，政府也在不断削减研究预算。 向世界传达人工智能的技术、应用以及支持人工智能的基础科学的背景，是一个重要的外延，可以极大地影响社会对科学的理解和印象。 AI-SCHOLAR旨在帮助消除普通民众和专家之间对人工智能的理解差距，为人工智能融入社会做出贡献。 另外，我们希望帮助大家把自己的学习和研究经验在媒体上体现出来，在社会上表达出来。 任何人都可以用艰深的词汇来解释高深难懂的事情，但AI-SCHOLAR追求的是"可读性"和"可理解性"，充分利用词汇和设计来传递信息，以此为媒介。