30秒でわかる要点
AIの判断根拠を人間が理解・説明できるようにする技術。ブラックボックス化しがちなディープラーニングの意思決定プロセスを透明化する取り組み。LIME、SHAPなどの手法がある。
「説明可能なAI（XAI）」の練習問題
当サイトの練習問題から、この用語に関係する問題をピックアップしました。
Q1「説明可能なAI（XAI）」の実装手法として最も適切なものはどれか。
- 決定木、LIME、SHAP、注意可視化などで、ブラックボックスモデルの判定根拠を人間に説明可能にする
- 説明は不要で性能が重要
- 説明可能性は実装不可能
- 全モデルは自然に説明可能
答えと解説を見る
正解：A
LIME：ローカルに理解可能な線形近似。SHAP：ゲーム理論に基づく特徴寄与計算。Attention可視化：どの入力に注視したか表示。高リスク意思決定域では説明可能性が必須。B、C、Dは責任回避。
Q2説明可能AI（XAI）の手法LIME（Local Interpretable Model-agnostic Explanations）の基本的な仕組みとして最も適切な説明は何か。
- 全体的なモデルの学習過程を透視化する技術である
- 特定の予測に対して、その周辺領域で解釈可能な線形モデルを当てはめて説明する
- モデルの重み付けをすべて均等化して説明性を向上させる方法
- 予測精度を落とすことで、より単純で説明可能なモデルに置き換える
答えと解説を見る
正解：B
LIMEは個別の予測例の周辺で局所的な線形近似を行い、どの特徴が予測に貢献したかを説明。Aはグローバル説明（SHAPなど別技術）、Cは根拠なし、Dは精度損失を伴う別アプローチ。
Q3因果推論（Causal Inference）がXAIに貢献する理由として最も適切なものは何か。
- 相関関係のみに基づく説明
- 変数間の因果関係を特定することで、「もし～ならば」の反事実説明が可能
- 因果推論はAIと無関係
- 因果関係は統計的に検出不可能
答えと解説を見る
正解：B
因果推論（Causal Inference, DAG等）で、単なる相関でなく因果メカニズムを理解→強力な説明性。Aは相関/因果混同、C・D誤解。
AI活用の問題をまとめて解いて、理解を確かめましょう（無料・登録不要）。
AI活用の練習問題を解く