株式会社Studio OusiaのAIモデルLUKEがHugging Face社のTransformersに追加！
3つの要点
✔️ 自然言語処理モデルが世界知を持てるようになったこと
✔️ 日本発のモデルが世界標準に認められたこと
✔️ 4つの世界標準の自然言語処理のデータセットで最高性能を記録した新しいAIモデル
AI-SCHOLARからのワンポイント解説
NLP研究者なら誰もが知っているHugging Face社が提供する世界標準のNLPライブラリであるTransformersに日本発モデルが採用されたことです。NLPライブラリであるTransformersには名だたる企業が考案したモデルが実装されています。そこに日本発のモデルがついに採用されたことで、日本の研究が認められたことは素晴らしいことです。
株式会社Studio Ousiaの研究チームが提案したAIモデル LUKE が米Hugging Face社が提供する世界標準のNLPライブラリであるTransformers version 4.6.0に追加され、使用が可能となっています。Transformersに追加されるモデルは、GAFAMやOpen AI等の巨大な研究所が開発したものがほとんどであり、日本発のモデルがTransformersに採用されたのは今回が初めてです。
米Hugging Face社が提供するTransformersライブラリは、自然言語処に用いられる様々なAIモデルの実装を提供する、世界標準のライブラリの１つです。Transformersでは多くの標準的なAIモデルが提供されており、モデルの訓練・評価・共有をわずかなコードで可能とします。
LUKEは、固有表現抽出（CoNLL-2003）、質問応答（SQuAD 1.1、ReCoRD）、関係分類（TACRED）型分類（Open Entity）の4つの世界標準の自然言語処理のデータセットで最高性能を記録した新しいAIモデルです。今回の追加により、LUKEが世界の標準的なAIモデルの一つとして、開発者が非常に簡単に使えるようになりました。 詳細については、こちらのニュース記事をご参照ください。以下のColab Notebookを通じてウェブ上からLUKEを使って上述のタスクを解くコードを実行することができます。
今後は、LUKEの日本語を含む多言語対応に取り組んで参ります。また、ビジネス現場で最先端技術の利活用を実現するべく、LUKEを弊社最新モデルSōsekiに組み込み、より精度の高いAIエンジンの開発につなげて参ります。
LUKEのGitHubリポジトリ
LUKE: Deep Contextualized Entity Representations with Entity-aware Self-attention
