なぜAIは私たちが思ったよりも難しいのか？
3つの要点
✔️ 人工知能の理解における4つの誤謬
✔️ 人工知能の歴史的傾向：春(スプリング)と冬(ウィンター)
✔️ 知能の具体的な理論を構築する必要性
Why AI is Harder Than We Think
written by Melanie Mitchell
(Submitted on 26 Apr 2021 (this version), latest version 28 Apr 2021 (v2))
Comments: Accepted by arXiv.
Subjects: Artificial Intelligence (cs.AI)
code：
はじめに
過去10年間、AIの分野では驚異的な進歩を遂げてきました。深層学習の進化は、AIコミュニティに新たな希望を与え、それに伴って無数のスタートアップ企業が誕生し、研究への関心や資金提供も増えています。多くのAI専門家やCEO、著名な技術者は、"真の"AIが実現するのは数十年後だと考えています。"2020年には、永久に後部座席の運転手になる”。これは、ちょうど5年前の「ガーディアン」紙に掲載された言葉です。このような楽観的な予測は他にもいくつかあります。"2020年までに1,000万台の自動運転車が走行する"、Business Insider 2016。しかし、実際には自律走行の問題は私たちが考えているよりもずっと難しいです。
この楽観主義は、一部のAI専門家に、1970年代と1980年代の2つの"AIスプリング"の時代を思い出させます。1960年のハーバート・サイモンは、「20年以内に、人間ができるあらゆる仕事を機械ができるようになるだろう」と人気を博しました。しかし、この2つの"AIスプリング"の熱狂は長くは続かず、この分野での進歩が先細りになったことで、研究費が大幅に削減され、真のAIへに対する自信は失われていきました。問われるのは、現在の"AIスプリング"が永遠に続き、真のAIにつながるのか、それとも再び冬に向かっているのかということです。
このような自信過剰の時期"AIスプリング"と進歩が停滞している時期"AIウィンター"の背景にある4つの主な理由について説明します。これらの誤謬の原因を理解することで、AI研究を正しい方向に進め、実際のAIシステムに近づけることができます。
真のAIへの道における誤謬について
誤謬1：狭義の知能は一般的な知能と連続している。
IBMのDeep Blueがチェスのグランドマスターに勝ったとか、AlphaGOが囲碁の世界チャンピオンに勝ったとか、GPT-3が大学の小論文を書いたとか、コンピュータが何か知性を感じさせる課題を達成すると、一般知能への足がかりとして冠される。常識的に考えれば、そのような継続的な改良によって一般的な知能に到達することは可能だと考えられます。しかし、一般的な知性は、現在の機械の限られた知性とは似て非なるものであり、そこに至る道筋は全く異なるものである可能性も同様に考えられます。
誤謬2：簡単なことは簡単、難しいことは難しい。
人間が簡単にできることは、AIの方がうまくできるのではないかという考えが広く受け入れられています。人の顔を認識するのに100ミリ秒かかるとしたら、AIシステムはもっと早く認識できるはずですし、GoogleのFaceNetは実際にそれを実現しています。コンピュータは明らかに難しい2つのゲームをなんなくこなす事ができます。例えば、チェスと囲碁です。しかし、人間にとって簡単な言葉を覚えることや歩き回ることには問題があります。これは2歳の幼児でさえ簡単にできることです。つまり、「簡単なことは難しく、難しいことは簡単である」という別の考え方もあるのです。ですから、囲碁を「ドメインの中で最も難しい」と表現するときには、「誰にとって難しいのか」を明確に問う必要があります。
私たち自身、自分の思考プロセスの複雑さに気づいていません。何十億年もの進化によって、脳の感覚領域と運動領域がコード化され、歩くことなどの難しいことがとても簡単に見えるようになっています。マービン・ミンスキーの言葉を借りれば、「一般的に、私たちは自分の心(思考)が何を最も得意としているかを最もよく知らない」ということになります。
誤謬3：希望的観測に満ちた魅力的な記憶術
人工ニューラルネットワークは、確かに脳をモチーフにしています。しかし、ANNの働きは、実際の脳の働きとは大きく異なります。IBMは、IBM Watsonが「7つの言語の文脈やニュアンスを読んで理解できる」と言っていますが、人間が言語を理解するように「実際に」機械がそうするという意味ではありません。実際、ワトソンには人間のような「勝負」や「勝利」という概念はありません。このような説明は、裏で何が起こっているのかわからない素人向けのものです。このような希望的観測に満ちた魅力的な記憶術は、一般の方のプロジェクトへの熱意を高めますが、これでは過度に楽観視させてしまうでしょう。
このような例としては、Stanford Question Answering Datasets、RACE Reading Comprehension Dataset、General Language Understanding Evaluationなどの現在の深層学習ベンチマークがあります。これらのデータセットでは、NLPモデルがすでに人間レベルの性能を超えていますが、注意しなければならないのは、これらのモデルの性能を測るために使用されている指標や、タスク自体が非常に限定されているということです。これらのベンチマークでは、限られたQnA、読解、言語理解の能力しか試されておらず、これらのタスクで優れた性能を発揮したモデルは、他のタスクにうまく一般化できません。この限定されているという認識は一般の方は基本的に知らないのです。
誤謬4：知能が脳に全てある。
心(思考)の情報処理モデルでは、心を、入力、出力、記憶、処理の各要素を持つ、コンピュータのような情報処理システムとして捉えています。認知は「物理的な脳」のみで行われると仮定している。記号論的なAIのアプローチや、最近のニューラルネットワークでも、脳を情報処理システムと仮定しています。この推測により、適切なソフトウェアを用いて脳の計算能力に合わせて機械を適切にスケールアップすれば、人間レベルの性能が得られると考えられている。ディープラーニングのパイオニアであるGeoffery Hintonによれば、理論的には、脳のように人工ニューラルネットワークに何兆もの接続があれば、人工ニューラルネットワークが文書を理解できるようになるという。
"一般的な知能"システムは、感情や非合理性、空腹感、休息の必要性などがないと考えられており、同時に精度や速度、プログラム可能性などの品質を保つことができます。このような完全に合理的なAIのモデルは、当然ながら、彼らが人類にもたらす実存的な脅威を考えさせます。例：地球温暖化防止という目的を与えられた超知能システムが、人類の滅亡を決意するかもしれない。
しかし、多くの認知科学者は、身体性認知と呼ばれる、すべての認知活動における身体の中心性を主張しています。私たちの思考や知性は、知覚、行動、感情と深く結びついています。私たちの抽象的な概念の多くは、物理的な世界との相互作用に根ざしています。知性を切り離して独立して考えることは正しいのでしょうか？人間の知性には、感情、欲求、強い自己意識と自律性、そして世界に対する常識的な理解が不可欠な役割を果たしているのではないでしょうか？
まとめ
AI研究者のテリー・ウィノグラッドは1977年、"AIの現状は、中世の錬金術に匹敵する"と発言しました。残念ながら、それは今も変わりません。錬金術のように、いくつかの物質を混ぜ合わせて価値ある結果を期待していたように、現在進行中のAIの研究もほとんどが同じようなものです。これらの実験は、最終的なゴールに貢献することは間違いありません。しかし、私たちはAIの状態を評価するためのより良い方法を必要としています。また、私たちの成果について誤解を招くような解釈をして自分自身を欺くことはやめるべきです。真のAIを実現するためには、知能に関する具体的な理論が必要です。
この記事に関するカテゴリー
