【XAI】説明可能なAI(作成中)

説明可能なAI

解釈性
アルゴリズムが予測に至るために用いるプロセスを人間がどれだけ簡単に理解しやすいかを示す

説明性
とある推論結果において、入力したデータの各説明変数が予測結果にどの程度影響を与えたのかなどを示す

BlackBox モデルの説明性・解釈性技術の実装

機械学習の説明可能性への取り組み – DARPA XAI プロジェクトを中心に –

「AIの説明」の現状とこれから

AI(DeepLearning)が不安定な例

Adversarial Examples

Ian J. Goodfellow, Jonathon Shlens, Christian Szegedy(2014). Explaining and Harnessing Adversarial Examples

主な手法

LRP

Layer-wise relevance propagation

On Pixel-Wise Explanations for Non-Linear Classifier Decisions by Layer-Wise Relevance Propagation

Layer-wise Relevance Propagation for Neural Networks with Local Renormalization Layers

LIME

Local Interpretable Model-agnostic Explanations

Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin(2016). “Why Should I Trust You?” Explaining the Predictions of Any Classifier

SHAP

Scott Lundberg, Su-In Lee(2017). A Unified Approach to Interpreting Model Predictions

DeepRED

Gary Mataev, Michael Elad, Peyman Milanfar(2019). DeepRED: Deep Image Prior Powered by RED