世界で戦ってきたリサーチエンジニアから学ぼう
日本はAIが遅れていると言われています。確かに進んでいるとは言えませんが、ではどう遅れているのか?なぜ遅れているのか?どこが遅れているのか?明確にはわかりません。でも今後AIをどんどん活用し、世界と戦おうとしていくのであれば、世界で戦ってきた人に聞くのがいいのではないでしょうか?
今回は世界全体にAIという言葉を大きく印象付けた囲碁AI「AlphaGo」を生み出したことでも有名なGoogle DeepMindにてリサーチエンジニアとして働き、現在日本でSDGsを達成するためのAI開発支援に焦点を当てた株式会社Recursiveを設立しているTiago Ramalho(ティアゴ・ラマル)さんにAI開発の雰囲気からプロジェクト周りのお話をお聞きしました。
企業紹介
株式会社Recursiveは、AI技術とビジネスアイデアを通してSDGsの達成を目的とした2020年8月創業のスタートアップです。Deepmind出身のCEOティアゴを中心に、AIに精通したプロフェッショナルが集まっています。現在は、企業との共同研究や、AIシステムの開発を中心に事業運営をしています。
経歴について教えてください
私は、博士課程では理論物理学を研究していました。具体的な研究内容は、幹細胞がどのように相互にコミュニケーションをして体内の臓器になるのかという統計モデルの開発です。博士号取得後、Deepmindにてリサーチエンジニアとして働き始め、さまざまなプロジェクトに携わりました。Deepmindに3年間所属した後は2年間、日本のAIスタートアップCogent Labsのリードリサーチサイエンティストとして働き、そして2020年の8月にSDGsを達成するためのAI開発支援に焦点を当てた株式会社Recursiveを設立しています。
ーDeepmindってどんな会社ですか?凄いってイメージはありますが、実際どんな会社なんですか?
外部のイメージとは多少ずれがあるかもしれません。AlphaGoが有名なので、製品への応用研究といった応用をメインとしている会社だと思われがちですが、実際はより基礎的な研究に力を入れていることが特徴ですね。他の企業と比べるとアカデミックな環境に近い感じがします。研究目標は、超人レベルのAIの開発に向けられています。優秀な人材が非常に多く、エキサイティングな環境でした。
専門分野について教えてください
DeepmindからCogent Labsにかけての過去5年間、私はディープラーニングに焦点を当てて研究をしてきました。特に、転移学習とFew-shot Learning(FSL)の分野に非常に興味を持っています。これらの研究分野は、非常に少量のデータから学習できるモデルを開発することが目的です。つまり、ディープラーニングの大きな問題の1つである、学習するためには多くのデータが必要という問題を解決することができるんです。
また、私はディープラーニングにおけるロバストネスの分野にも取り組んできました。ここでいうロバストネスとは、ディープラーニングのモデルがミスを犯すかもしれないことを理解し、それをより安全にするにはどうすればよいか検討することです。
研究をする上でどういったチームの構成をしているのでしょうか。
バックグラウンドやスキルの組み合わせになにか工夫はあるのでしょうか。
Deepmindのチームには、サイエンティスト、エンジニア、プロジェクトマネージャーが一緒になって仕事をしていました。エンジニアはコードの堅牢性に特に注意を払い、サイエンティストは新しいアイデアを提案します。プロジェクトマネージャーは、研究プロジェクトが軌道に乗っているかどうかを確認し、新しいアイデアが次々と飛び出してくることでサイエンティストやエンジニアの気が散りすぎないようにするのが役割です。
私が所属していたチームには、物理学、数学、そしてもちろんコンピュータサイエンスなど、さまざまなバックグラウンドを持った人たちが集まっていました。彼らの問題解決へのアプローチは大きく異なっているために、より多くのアイデアを生み出すことができるんです。工夫と言われれば、そこかもしれません。
研究アイデアはどのように見つける?プロジェクトの始まりはどう言った形なのか?
チームの全員が、新しい研究アイデアを提案できる環境でした。アイデアは、トップ研究者で構成されている研究委員会によって評価され、承認された場合にはチームが編成され、フルタイムで研究に取り組むことが許されます。もし承認されなかった場合は、よりアイデアが洗練されるまで空き時間に作業を続ける形になります。
研究やプロジェクトのディスカッションはどのように行いますか?
どのような研究の進め方がされるのでしょうか?
みなさんもご存知の通り、ディープラーニングの研究は、本質的に膨大な実験によるものです。そのため、アイデアをコードに実装し、新しいデータセットやコンピュータ環境で繰り返しテストする必要があります。多くの場合、アイデアの最初のバージョンでは失敗することが多く、それを動作させるためにコードを修正したり、アイデア全体を考え直したりしなければなりません。チームでは、毎週のミーティングで進捗状況を議論したり、Slackを介して毎日議論したりしていました。このあたりの進め方はあまり他の企業と変わらないかもしれません。
効果的な研究の進め方はありますか?そういった点で工夫はありましたか?
効果的な研究の進め方という観点でいえば、やはりアイデアの数をどれだけ多くだせるかというのは、ポイントの1つになると思います。1つ助かったのは、毎週、社内外の研究者が研究のアイデアを説明する講演がたくさんあったことです。自分とは違うことに取り組んでいる人たちの情報に触れることで、自分の研究に対してもより多くのアイデアを生み出すことができました。また、Googleのデータセンターにアクセスできることで、計算能力リソースで多くの制限がなくなり、非常に研究しやすい環境が整っていました。
ーアイデアを出しやすい環境であることと様々なアイデアが出るバックグラウンドを持つ人材がいるからこその強みでもありますね。
論文リサーチの進め方のコツやまとめ方やリサーチの仕方の注意点は何がありますか?
私はいつも学生に、アイデアや実験の詳細な記録をつけておくようにアドバイスしています。1ヶ月も経つと、なぜその実験で結果が出たのか、なぜその実験をしたのかすら忘れてしまうこともありますよね。記録をつけておけば、それを参照して何を思ったのか、何が起こったのかを思い起こすことができます。
ー基礎的であり、重要な要素ですね。
もう1つのポイントは、新しいアイデアに取り掛かる前に入念な文献調査をすることです。私が持っていた新しいアイデアを、すでに誰かが研究していた!ということが何度もありました。また、もし研究に行き詰ってしまった場合は、目標から逆算して、自分の知識にギャップがないかどうかを理解してみることをお勧めします。もしそのギャップを認識できれば、そのトピックについてもっと学んでから、自分の研究に戻ってくることができるからです。
ーこれも基礎的であり、重要な要素ですね。それぞれ基礎的であるものの実際にこなしているかと言われると意外とされていなかったりしますよね。
AI研究者を評価するときはどこを見ますか?
評価する項目があれば教えていただきたいです。
優れたAI研究者には、みんながあまり重要視していない2つの能力を持っていると思っています。
1つ目は、すぐに実験をして確かめる能力です。さきほども述べたようにディープラーニングの研究は本質的に実験です。アイデアを考えることに時間をかけすぎても、実際にはうまくいかずに、時間を無駄にしてしまう可能性があります。スピーディーに実験をすることが大事になりますので、アイデアを素早くテストするためのコードを書ける人は、より多くのフィードバックを得ることができるため、より早く改善することができます。
2つ目のポイントは、なぜうまくいかなかったのかを理解する能力です。実験をしてもうまくいかないことはよくありますが、その時点で諦めてしまう人は意外に多いと感じています。優秀なAI研究者は、コードを慎重に調べ、何度もチェックをして、すべてが正しく、バグがないことを確認します。バグがなければ、直感的にどこで間違っていたのか、代わりに何が起こったのかを理解しようとすることが大切です。
今一番注目している技術は?
それは機密情報です(笑)。
ただ、去年の教師なし学習の進歩はとても刺激的だったと思います。
どんな人材がAIプロジェクトに必要だと思いますか?
これはDeepmindで学んだことでもありますが、AIプロジェクトを成功させるためには、さまざまなバックグラウンドを持つ多様性に富んだチームが必要です。サイエンティストだけでなく、優秀なエンジニアももちろん必要です。また、自分たちがやっている仕事の意味合いを正しく把握するためにも、課題について深く理解している人材も必要です。
別の観点でいえば最近、AIアルゴリズムにおけるバイアスの問題が注目されています。私は、多様な人たちがAIアルゴリズムに取り組むことで、現実世界に実装される前に潜在的な問題を予測し、修正しやすくなると考えています。エンジニアだけのチームでは、社会に影響を与える問題を把握できない可能性が高いはずです。同じようなバックグラウンドの人を集めると、AIを適用する機会を逃してしまう可能性があります。例えば、マイノリティのコミュニティや大都市から離れた地域の人々の生活を改善といった機会です。
そこで私は、教育的背景、民族的背景、社会経済的背景が異なる人たちで構成された研究チームを作り、公平かつバランスのとれた形でAIを進化させていきたいと考えています。
AIが社会で失敗するときの注意点を教えて欲しいです。
AIシステムがより高度化し、私たちの生活に組み込まれるようになるにつれ、その訓練データに偏った判断が永続する可能性があり、ますます注意を払わなければなりません。この問題を緩和する唯一の方法は、多様なチームによってさまざまなAIアプリケーションを構築し、特定の人々のために特定の問題を解決することに焦点を当て、アルゴリズムを開発する際に彼らの声を聞くことだと思います。
どんな強力な技術でもそうですが、大きな利益と大きな弊害をもたらす可能性を秘めていて、その違いは誰が使うかの責任から出てきます。なので、私たちはこの分野のパイオニアとして、この技術がどのように社会に良い影響を与えるか、顧客や一般の人々に教育する責任があると考えています。
ーまとめるとこんな感じなんですかね。1つの参考にしていきましょう。
お知らせ
Recursiveでは、共同研究パートナー、インターン等を募集しています。興味がある方は気軽にwebサイトからご連絡ください。
この記事に関するカテゴリー