NVIDIA!リアルな肺結節画像の生成方法を提案。新たな医用画像の可能性を示す。

論文 Correlation via synthesis: end-to-end nodule image generation and radiogenomic map learning based on generative adversarial network

AIの学習には沢山のデータが必要になります。しかし、医療おいては沢山のデータを集めることは簡単ではありません。医療データは個人情報を含んでいるため、取り扱いが難しいとされています。さらに、病院との密接な連携も必要になってきます。現在、このような課題に対し、医用画像をGANによって生成する研究が多く行われています。

この記事では新しくNVIDIAが発表したリアルな肺結節画像を生成するモデルを紹介します。単純なGANによる医用画像の生成では生成された画像が本当に有益な特徴を持っているかは不明なことが多いです。論文では肺結節のない背景画像と遺伝子発現プロファイルによる制約によってリアルな肺結節画像を生成するmulti-conditional GAN(多条件の制約付きGAN)を提案しています。

それは、つまり?
遺伝子情報に合った画像を生成するようにGANの生成にルールを設けたということです。

※肺結節:本研究では非小細胞癌を示します。
※遺伝子発現プロファイル:遺伝子が体のどの組織?どんな発生時期?どんな状態で発現?という情報を持つ。

モデル

提案されたmulti-conditional GANは
①左側の背景画像(Background)のエンコーダー
②右側の遺伝子発現プロファイル(Gene expression data)のエンコーダー
③それぞれの情報を統合しつつ、生成画像(Image)とそのマスク(Segmentation)を生成するデコーダーで構造されています。

◾️では、提案されたモデルは何をしているの? 

提案されたモデルは2つの課題を解決するモデルとして作られています。

1つ目は結節と背景画像の分離と融合です。
背景画像からは何も除去することはせずに、各解像度で少しずつ結節と背景画像を融合していきます。さらに、分離を容易にするためのマスク(Segmentation)の生成も行なっています。

2つ目は画像と遺伝子情報の融合です。

◾️そんなことできるのか?

犬の画像を見たときにこれは何?と聞かれたら皆さん“犬”の写真って答えませんか?
つまり、画像と単語(犬)が皆さん頭の中ではくっついていますよね?
ただ、遺伝子情報は単純に融合することは難しいです。なぜなら、“犬”と犬の写真は密接に関係がありますが、遺伝子情報と結節画像には密接に関係するものもあれば、密接な関係がないものもあるので単純に融合させることはできません。
著者らは単純に融合させるのではなく、ひと工夫を加え、画像の1つの抽象的なスタイルとして遺伝子情報を融合させることで解決させています。
スタイルとは?
人の顔写真を例にすると…人の顔写真でのスタイルは髪型や肌の色や目の位置などです。人の肌の色を黒から白に変えれば顔写真も変わります。また、髪型が違えば顔写真は変わります。

つまり、著者らは画像の1つの抽象的なスタイルとして遺伝子情報もあるとモデル化することで、画像と遺伝子情報を融合させています。

生成結果

1行目は学習に用いた画像です。注意していただきたいのはこの画像の肺結節を除いた背景画像と遺伝子情報を用いて学習が行われていきます。2行目が画像生成するための背景画像になります。この画像上に肺結節が合成されます。3行目が従来のmulti-conditional GANの生成結果です。4行目が提案手法による生成画像の結果です。

わかりにくいですが従来手法では背景画像の変化や画像がボケたり、学習画像にはない特徴が現れており、不自然な画像となっています。しかし、提案手法での生成画像はよりリアルであり、学習画像の特徴を有していることがわかります。

新たな可能性

さらに注目すべきは、著者らの研究にはリアルな肺結節画像の生成以外に真の目的があります。
それは、遺伝子情報によって画像の生成を制御できるのであれば、遺伝子と画像に何らかの関係があるのではないか!?
すなわち、著者らは遺伝子情報と医用画像の関係解明を真の目的としています。
図は生成した画像の遺伝子に関するt-SNEを示しています。従来手法(Baseline)では元データ(Raw)にもない分布を示しており、遺伝子分布をグループ分けし、画像との関係を観察することができません。しかし、提案手法(Proposed)でのt-SNE分布を見ると、グループ分けをすることが可能です。グループに分けられている分布の1,2,3を画像化すると明らかに結節の形状や結節境界と何らかの関係があることがわかります。

これの何がすごいの?

これには大きな可能性があります。今後、遺伝子情報と医用画像の関係が解明されると…
皆さんが病院でレントゲンやCTやMRIを撮影し、病気が見つかった場合、その遺伝子情報もわかることになります。そうなるとその患者1人1人に遺伝子レベルで合った治療方法を提案することが可能になるかもしれません。病気が見つからなくても、画像から病気になりそうな遺伝子が推測できるかもしれません。つまり、発病する前に病気を予防できる可能性を秘めているということです。この研究は遺伝子検査が安価になり、解析の高速化が進んでいる今だからこそ発展していくと考えられます。今後も注目していきましょう。

 

 

この記事をシェアする

コメント

ねこ😼  @warui_neco
2019/07/16 09:23

よくわからないけどすごそう » NVIDIA!リアルな肺結節画像の生成方法を提案。新たな医用画像の可能性を示す。|AI-SCHOLAR https://t.co/sSwzRXwexD

Tomoki Morikawa/森川智貴  @xomoki
2019/07/16 06:20

医用画像から疾患を引き起こすであろう遺伝子情報を推測するという研究。めちゃくちゃ読みやすいと思うので、良かったら一読下さいませ😊 NVIDIA!リアルな肺結節画像の生成方法を提案。新たな医用画像の可能性を示す。|AI-SCHOLAR https://t.co/H6RaIUOkPE

人工知能 Deep Learning AI image medical machine learni  @esXFdfOJxiGBFLx
2019/07/16 04:37

ものすごく簡単ですが、NVIDIAの記事を書きました。 NVIDIAの肺結節生成手法の提案ですが、これは遺伝子と医用画像の関係解明の鍵になると考え記事にいたしました。 近年医用画像分野で注目されている内容なので、この分野の方は一度読んでおいても良いでしょう。 https://t.co/8nPHqSZLao