学習ニュース拾い読み記事のアイキャッチ画像

AIの予測結果を具体的学習内容で説明する手法を開発 | 立教大学


最近、ChatGPTの登場により、
再びAIに対しての注目度が高くなっています。
実際にこのツールを使ってみると、
うまくまとめていると感じることもあれば、
質問の仕方やその分野によっては、
このAIが出してきた結果を本当に信じてよいか
わからないと感じることもあります。

こうした問題点に対して、AIの判断に対する
説明や解釈を行う
説明可能AI(Explainable AI, XAI)」
という研究分野があるそうです。
今回は、この説明可能AIに関する研究結果を
ご紹介します。

立教大学、株式会社豆蔵の研究チームは、
AIの判断を「AIモデルが具体的にどのような
データを学習したか」で説明する「説明可能AI」の
手法を開発し、What I Know (WIK)と
名付けたそうです。

このWIKを利用して実験を行ったそうです。
その結果とは?
詳しくはリンク記事でご確認ください。

 

立教大学大学院人工知能科学研究科(所在地:東京都豊島区、研究科委員長:内山 泰伸)の石川 真之介 特任准教授、瀧 雅人 准教授、内山 泰伸 教授と株式会社 豆蔵(本社:東京都新宿区、代表取締役社長:中原 徹也)による研究チームは、AIの判断を「AIモデルが具体的にどのようなデータを学習したか」で説明する「説明可能AI」の手法を開発しました。この手法により、「AIの判断結果が信頼できるか」について簡単に、直感的に判断することができるようになります。本研究成果は国際学術論文誌「International Journal of Applied Earth Observation and Geoinformation」に掲載されました。

情報源: AIの予測結果を具体的学習内容で説明する手法を開発 | 立教大学

 


[PR]