世界初!GANのモデルを自動で生成するAutoGAN

3つの要点

GANのモデルを自動生成する世界で初めての手法 
❷ 従来のGANの手法よりも高精度な画像の生成が可能
Multi-Level Architecture Searchやパラメータのリセットを行うことで高速な学習が可能

 

みなさんはNeural Architecture Search (NAS) という手法をご存知でしょうか?

普通のDeep Learningでは、モデルの構造は人間が指定し、モデルのパラメータのみを最適化しますが、NASではモデル構造も含めて最適化を行います。そのためより高精度なモデルを生成することが可能ですが、学習時間が大きくなってしまう欠点もあります。

つい1,2年ほど前までは、NASは何十台もGPUを使って何週間もかけて行なっていましたが、最近ではGPU1台で4時間で学習できるNASも登場するなど、注目を集めています。

今回紹介するAutoGANは、このNASの手法を世界で初めてGANに取り入れたものです。

今回のAutoGANでは、生成器Gの部分をNASで自動生成しています。その手法について見ていきましょう。

NASって何?

Neural Architecuture Search (NAS) は、モデルのアーキテクチャも自動で最適化し決定する手法です。

現在の主流としては、進化的アルゴリズムを応用したものや、強化学習的な手法がありますが、今回は強化学習的な手法を用いています。

論文では、それぞれのRNN Controllerが次の層を決定して全体のモデルを生成し、そのモデルの「良さ」の指標であるInception Score (IS) を報酬として強化学習を行います。

図 RNN Controllerを用いたNAS

 

 

モデル概要

上記のNASの手法は学習にかなり多くの時間がかかってしまうため、本論文ではMulti-Level Architecture Search (MLAS)という手法を用いて高速化しています。

 

この記事をシェアする