GNNの事前学習戦略

3つの要点

✔️ GNNの効果的な事前学習の方法について検討
✔️ グラフレベルの事前学習とノードレベルの事前学習を組み合わせる
✔️ 様々な化学・生物分野のデータセットで従来の事前学習手法に比べて精度向上を確認

Strategies for Pre-training Graph Neural Networks
written by Weihua Hu, Bowen Liu, Joseph Gomes, Marinka Zitnik, Percy Liang, Vijay Pande, Jure Leskovec
(Submitted on 29 May 2019 (v1), last revised 18 Feb 2020 (this version, v3 )
Comments: Accepted as a spotlight to ICLR 2020
Subjects: Machine Learning (cs.LG); Machine Learning (stat.ML)

 

化学・生物分野における問題はグラフの特性予測として捉えることができます。例えば、新規に合成された化合物の特性を予測する場合には、グラフ全体に対して一つの予測値を返すことが求められます。このような問題に対して、GNN（グラフニューラルネットワーク）の利用が考えられますが、特に化学・生物分野においてはデータ不足が問題となります。

転移学習はコンピュータービジョンや自然言語処理の分野でデータ不足の問題に対応するために広く用いられる手法ですが、GNNを効果的に事前学習する方法については十分に検討されてきませんでした。

この記事に関するカテゴリー

• 機械学習
• 深層学習
• GNN