知識グラフが切り拓く理解可能なAIの未来

survey 2024年07月30日

3つの要点
✔️ 説明可能なAI(XAI)と解釈可能な機械学習(IML)を区別し、それらを包括する概念として理解可能なAI(CAI)を提案しました。
✔️ 知識グラフ上のCAI手法について、表現、タスク、基盤手法、理解可能性の種類の4つの観点からタクソノミーを構築し、IMLとXAIにおける研究の系統を明らかにしました。
✔️ 今後の研究課題として、リンク予測へのXAI適用、知識グラフの意味情報を活用した説明の改善、XAI手法間の比較評価、グラフクラスタリングへのIML適用、IMLモデルの解釈の伝達改善などを挙げて、知識グラフの意味情報を活用することでAIシステムの安全性向上が期待できると主張しました。

Comprehensible Artificial Intelligence on Knowledge Graphs: A survey
written by Simon Schramm, Christoph Wehner, Ute Schmid
(Submitted on 4 Apr 2024)
Comments: Published on arxiv.
Subjects: Artificial Intelligence (cs.AI)

code：

本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。

概要

この論文は、知識グラフ(KG)を活用したコンプリヘンシブル人工知能(CAI)に関する包括的な調査研究です。CAIは、説明可能AI(XAI)と解釈可能機械学習(IML)の上位概念として定義されています。

まず、論文ではCAIの概念を明確化し、KGの表現方式、タスク、基盤手法の観点から分類するタクソノミーを提案しています。このタクソノミーに基づいて、KGを活用したIML手法とXAI手法をそれぞれ詳細に分析しています。

IML手法では、ルール抽出、経路探索、埋め込み手法などが、XAI手法では、ルールベース、分解ベース、代替モデルベース、グラフ生成ベースの手法が紹介されています。各手法の特徴と課題が丁寧に整理されており、KGを活用したCAIの現状と今後の研究方向性が示唆されています。

はじめに

近年、人工知能(AI)システムは研究の領域を超え、私たちの日常生活にも浸透しつつあります。特に、知識グラフを用いたAI手法は21世紀初頭から応用が急増しており、多くの分野で利用されています。しかし、AIシステムの意思決定を説明することは、ユーザーからの要求であり、また多くの応用分野で規制の対象にもなっています。

知識グラフは、つながりのあるデータ、すなわち知識を人間にも機械にも理解できる形で表現できるため、理解可能なAI(Comprehensible AI, CAI)を実現するための基盤として大きな可能性を秘めています。本論文では、知識グラフ上のCAIの歴史を振り返るとともに、説明可能なAI(XAI)と解釈可能な機械学習(IML)の概念を明確に区別し、両者を包括する概念としてCAIを提案します。

提案手法

本論文の提案手法であるタクソノミーは、以下の4つの観点から構成されています。

1. 表現(Representation)：知識グラフをAIモデルの入力として表現する方法です。シンボリック(symbolic)、サブシンボリック(sub-symbolic)、ニューロシンボリック(neuro-symbolic)の3種類に分類されます。

2. タスク(Task)：CAI手法が取り組む問題の種類です。リンク予測(Link Prediction)、ノードクラスタリング(Node Clustering)、グラフクラスタリング(Graph Clustering)、クラスタリング(Clustering)、推薦(Recommendation)の5種類が含まれます。

3. 基盤手法(Foundation)：CAIを実現するための機械学習アルゴリズムや手法です。因子分解機(Factorization Machines)、トランスレーショナル学習(Translational Learning)、ルールベース学習(Rule-based Learning)、ニューラルネットワーク(Neural Networks)、強化学習(Reinforcement Learning)などが含まれます。

4. 理解可能性(Comprehensibility)：CAIの2つのアプローチを表します。解釈可能な機械学習(Interpretable Machine Learning, IML)と説明可能なAI(Explainable Artificial Intelligence, XAI)に分類されます。

このタクソノミーは、知識グラフ上のCAI手法を体系的に整理し、各手法の特徴を明確に把握するための枠組みを提供します。これにより、研究者はCAI手法の違いや関連性を理解し、新しい手法の開発や既存手法の改善に役立てることができます。また、このタクソノミーは、CAIの研究動向を俯瞰するためのツールとしても活用できます。

調査結果

調査の結果、IMLの研究には、ルールマイニング、パスファインディング、埋め込みベースの3つの系統があることがわかりました。一方、XAIの研究には、ルールベース学習、分解手法、代理モデル、グラフ生成の4つの系統があることが示されました。

図６

図6は、IMLとXAIにおける研究の系統をまとめた図です。これにより、各アプローチの特徴と関連性が明確になります。

図10

図10は、サーベイ対象の論文を表現、タスク、基盤手法の観点からまとめたヒートマップです。ヒートマップは、IMLとXAIについて分けて示されており、各セルの色の濃さが研究の集中度合いを表しています。これにより、現在の研究動向と空白領域が一目で把握できます。例えば、XAIの研究ではリンク予測に取り組む論文が少なく、表現としてシンボリックやニューロシンボリックを用いた研究が少ないことがわかります。一方、IMLの研究ではグラフクラスタリングに関する論文が少なく、ルールベース学習を基盤とした研究が多いことが読み取れます。

これらの図は、知識グラフ上のCAI研究の全体像を俯瞰し、各アプローチの特徴や関連性、研究動向、今後の研究機会を明らかにするために重要な役割を果たしています。