異種グラフニューラルネットワークのグローバルな説明を記述論理で実現する新手法
3つの要点
✔️ GNNのグローバルな説明不足に対し、記述論理（DL）のクラス表現（CE）を活用する新手法を提案。
✔️ モデル忠実度とGNNスコアを基にしたビームサーチで最適なクラス表現を生成し、GNNの振る舞いを説明。
✔️ 提案手法でスプリアス相関を特定可能となり、モデルの透明性と信頼性を向上。
Utilizing Description Logics for Global Explanations of Heterogeneous Graph Neural Networks
written by Dominik Köhler, Stefan Heindorf
(Submitted on 21 May 2024)
Comments: Published on arxiv.
Subjects: Artificial Intelligence (cs.AI); Logic in Computer Science (cs.LO)
code：
本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。
概要
グラフニューラルネットワーク（GNN）は、知識グラフ、製品グラフ、タンパク質グラフ、引用グラフなどのグラフ構造データを用いたノード分類に広く用いられています。しかし、GNNの予測の解釈性（Explainability）は依然として課題となっており、特にモデル全体の振る舞いを説明する「グローバルな説明手法」が不足しています。
既存の説明手法の多くは、GNNの出力結果をサブグラフ（小さな部分的なネットワーク構造）として可視化することで、その動作を直感的に理解しようとするものです。しかし、この手法では、GNNが学習したより高度な概念的なパターン（たとえば、特定の関係が持つ意味論的な役割）を正しく説明することができません。
そこで本論文では、記述論理（Description Logic, DL） の「クラス表現（Class Expressions, CEs）」を活用し、GNNのグローバルな説明を実現する新しい手法を提案します。これにより、従来のサブグラフベースの説明では扱えなかった複雑なルール（例：否定、包含関係、数制約）を考慮した説明が可能になります。
本手法は、GNNの予測結果を説明する複数のCE候補を生成し、最適なものを選択するアルゴリズムを構築しています。これにより、GNNの意思決定過程をより精密に分析し、透明性を向上させることができます。
この研究は、特に AIの透明性が求められる分野（例：医療、金融、法学） において、GNNの決定がどのような根拠に基づいているのかを明確にするための基盤を提供するものといえます。個人的には、特に医療分野での応用が期待されると感じました。患者の診断データをGNNで解析する際、その判断がどの医療知識に基づいているのかを明確に説明できることは、医師の信頼獲得に大きく貢献するでしょう。
関連研究
GNNの説明手法の分類
GNNの説明手法は、大きく「ローカルな説明」と「グローバルな説明」に分けられます：
-
ローカルな説明（例：GNNExplainer、PGExplainer）
- 特定のノードの予測理由を小さなサブグラフで説明。
- 既存の手法は主にこのアプローチを採用している。
- 例えば、ある文献の引用関係からその影響度を予測する場合、影響を与えた少数の論文を示すことで説明する手法。
-
グローバルな説明（例：XGNN、GNNInterpreter）
- あるラベルを持つ全ノードを包括的に説明する手法。
- 既存の手法では、グラフパターンを単純なサブグラフとして扱うため、複雑なルールを適用できない。
- たとえば、ある分野の研究者がなぜ特定のクラスタに分類されたのかを、全体の研究動向を示しながら説明する手法。
記述論理（DL）の活用
記述論理（DL）は、オントロジー（知識表現）を定義するために用いられる論理体系です。本研究では、DLの一種である「EL記述論理」を用いて、GNNの予測を説明するCEを生成します。
従来の手法では、GNNの学習したルールをグラフパターンとして表現することが困難でしたが、本研究ではDLを用いることで、より一般的なルールとしてGNNの振る舞いを記述できます。
例えば、GNNがある製品のカテゴリを「高級ワイン」と予測したとします。従来の説明では、「このワインが高価格帯のものだから」という程度のシンプルな説明しかできませんでした。しかし、記述論理を用いれば、「このワインはフランス産であり、特定のブドウ品種を使用し、長期間熟成され、過去の評価も高い」というより詳細な論理的説明が可能になります。
提案手法
本研究の提案手法は以下の3つのステップから成り立っています。
クラス表現（CE）の生成
- ビームサーチを用いてランダムにCEを生成。
- 各CEはGNNの予測結果と比較され、適切なものをスコアリング。
スコアリング関数の設計
2種類のスコアリング関数を用いて、最適なCEを選定：
- モデル忠実度スコア（Fidelity）
- CEの予測とGNNの予測の一致度を評価。
- GNNスコア
- CEを適用したグラフに対するGNNの出力を評価。
図2では、CEの探索過程が示されており、初期のランダムCEから始まり、スコアリングを繰り返しながら最適な説明が導出される様子が描かれています。
グローバルな説明の適用
最適なCEを選定した後、それをGNNの振る舞いの説明として利用。これにより、GNNの意思決定の透明性が向上し、説明の一貫性が確保される。
実験結果
データセット
- 本研究では、異種グラフデータセット「Hetero-BA-Shapes」を使用。
- グラフには、異なるノードタイプとエッジタイプが含まれ、GNNの予測精度や説明の有効性を評価するのに適している。
結果の分析
実験では、以下の評価指標を用いて提案手法の性能を測定しました：
- 忠実度（Fidelity）
- GNNの予測とCEの一致率を評価。
- CEベースの手法が従来のグラフベースの手法を上回る結果を示す。
- 説明の正確性（Explanation Accuracy, EA）
- 提案手法が実際にGNNの振る舞いを正しく捉えているかを測定。
- GNNの出力スコア
- GNNが生成したCEをどの程度支持するかを評価。
表2では、GNNスコアと忠実度の比較が示されており、提案手法が高い忠実度を持つことが明らかになっています。特に、モデルのスプリアス相関（誤った関連性）を識別する能力が高いことが確認されました。
スプリアス相関の検出
提案手法により、GNNが意図せず学習してしまった「誤った関連性（スプリアス相関）」を検出することが可能であることが示されました。
例えば、表3では、異なるエッジタイプを除去した場合のGNNスコアが比較されており、GNNが特定の関係性に過度に依存していることが視覚的に示されています。
結論
本研究では、記述論理を活用したGNNのグローバルな説明手法を提案し、以下の点を実現しました。
- GNNの振る舞いをCEを用いて説明可能にしたこと
- これにより、GNNの意思決定の透明性が向上し、信頼性が向上。
- スプリアス相関の検出能力の向上
- 提案手法により、GNNの予測結果の妥当性を検証する新しい手段を提供。
- モデルの忠実度向上と説明の精度向上
- 実験結果から、提案手法が従来のグラフパターンベースの説明手法よりも高い精度を達成。
今後の課題として、DLのより表現力の高いバージョン（ALCQ）への拡張や、異なるGNNアーキテクチャへの適用が挙げられます。
また、より大規模なデータセットでの評価を進めることで、提案手法の実用性をさらに向上させることが期待されます。
この記事に関するカテゴリー
