特徴制限するゲートを置くことで1つのフィルタで1つのカテゴリを担当させる

3つの要点
✔️ クラス特異的フィルタの制御を行う。
✔️ 精度を損なわず、フィルタの解釈性が向上
✔️ 物体位置や敵対的サンプルに応用可能

Training Interpretable Convolutional Neural Networks by Differentiating Class-specific Filters
written by Haoyu Liang, Zhihao Ouyang, Yuyuan Zeng, Hang Su, Zihao He, Shu-Tao Xia, Jun Zhu, Bo Zhang
(Submitted on 16 Jul 2020)
Comments: Accepted at arXiv
Subjects: Computer Vision and Pattern Recognition (cs.CV); Machine Learning (cs.LG)
Paper Coming soon COMM Code 

はじめに

Convolutional Neural Networks (CNN)は視覚的なタスクにおいて高い精度を数多く示してきました。しかし、そんな強力なCNNもまだ解釈が難しいのが現状です。人間とAIでの解釈の違いや必要性について議論すれば、様々な考えはあるものの、解釈できることに越したことはありません。違いは人間にとっては新しい知見となりますし、解釈が得られるのであれば、ある方がいいに決まっています。これらが得られれば、自動運転や医療診断での信頼性も確認できます。

この解釈性の可能性を妨げている原因の1つとして、フィルタクラスのもつれがあります。もつれと言われてもピンときませんが、下の図を見ていただければ、今回ご紹介する論文と比較でき、解釈がよくなることも直感的に分かります。

左が従来のCNNで、1つのフィルタに対して、船や猫、犬など様々なものが対応していて、解釈しづらい事が分かります。右側の提案されているものを見ていただけれるとわかると思いますが、猫や犬などのカテゴリに対して、1つのフィルタが対応しているため、解釈しやすくなることは分かります。今回ご紹介する論文はそういった1つのカテゴリに1つのフィルタを対応させることで解釈性をあげると言った内容です。実際この考えは理に適っているかもしれません。先行研究においても異なるフィルタ間で特徴に冗長的なものがあることが分かり、特化したフィルタ学習が可能であるということは、CVPR2019でも発表されていた内容になります。

加藤