ニューラルネットは不正行為を好んでいるわけではない

3つの要点
✔️ ニューラルネットは当たり前のことをしている
✔️ 使用者側で理解する必要がある 
✔️ 意図しない学習はo.o.d.テストをすることが望ましく、i.i.dテストでは不十分

Shortcut Learning in Deep Neural Networks
written by Robert Geirhos, Jörn-Henrik Jacobsen, Claudio Michaelis, Richard Zemel, Wieland Brendel, Matthias Bethge, Felix A. Wichmann
(Submitted on 16 Apr 2020 (v1), last revised 20 May 2020 (this version, v3))
Comments: Published by arXiv
Subjects: Computer Vision and Pattern Recognition (cs.CV); Artificial Intelligence (cs.AI); Machine Learning (cs.LG); Neurons and Cognition (q-bio.NC)

はじめに

Deep learning(DL)は近年のAIブームの火付け役です。現在DLは科学、産業、医療など様々な分野で成功を収めています。しかし、そんなDLの成功の影で多くの失敗も存在します。一番危ういのが”DLの理論的な理解がされていない研究がある”ことです。

• 自律走行車に乗ってAIに命を託すのであれば、
• 面接の合否がニューラルネットワークによって評価されるのであれば、
• がん検診の結果がディープラーニングの助けを借りて評価されるのであれば、

こう言った実社会応用を考えれば、必然と私たちは理論や徹底的な理解を必要とします。あまりにもAIは成功したことだらけのように世間に発表されています。そのため、社会ではAIは成功しなければならないと言う過度な期待感が生まれてしまいます。まだAIは発展途中であることへの理解にもなればいいと思います。

今回はDLが不正をしていると言うことで取り上げられるShortcut Learningについての論文を取り扱います。この論文はかなりの量があり、各タスクでのShortcut Learningについても記載されているため、今回の記事ではまず、Shortcut Learningの概要までを解説していきます。その後、各タスクのShortcut Learningやo.o.d.テストの作成方法などを解説する予定です。

加藤