XAI（説明可能なAI）とは
XAI（Explainable AI、説明可能なAI）とは、AIシステムの意思決定プロセスや予測根拠を人間が理解・検証できる形で提示するための技術・手法の総称です。深層学習などの複雑なモデルがブラックボックス化する中で、AIの判断を説明する技術への需要が高まっています。
| ひとことで言うと | AIの判断根拠を人が理解できる形で示す技術と考え方の総称。 |
|---|---|
| 主な手法 | SHAP、LIME、Grad-CAM、アテンション可視化、決定木による近似。 |
| 注意点 | 示されるのは「相関の強さ」であり、因果関係の証明ではない。 |
XAIの主要な手法
XAIの手法は大きく2つに分類されます。モデル非依存型（Model-Agnostic）手法は、どのようなモデルにも適用でき、LIME（局所的な説明）やSHAP（Shapley値に基づく説明）が代表的です。モデル固有型手法は、特定のモデルに対して設計されたもので、ニューラルネットワーク向けのGrad-CAM（注目領域の可視化）やアテンション可視化などがあります。
1AIが判定「融資は否決」
▶
2XAIで分解各要素の寄与を計算
▶
3根拠を提示「返済遅延歴が大きい」
▶
4人が確認妥当か判断
▶
5説明責任を果たす相手に説明できる
XAIの応用分野
XAIは幅広い分野で活用されています。医療分野ではAIの診断根拠を医師に提示し、金融分野では融資判断の理由を申請者に説明し、製造業では品質検査AIの判断基準を作業者に示します。自動運転分野でも、AIがなぜ特定の判断を行ったかを事後的に分析するためにXAI技術が活用されています。
XAIの課題と今後
XAIにはいくつかの課題があります。説明の忠実度（説明がモデルの実際の動作をどの程度正確に反映しているか）の評価が難しいこと、説明の対象者によって適切な粒度が異なること、説明を追加することによる計算コストの増加などです。今後は、大規模言語モデルの説明可能性や、マルチモーダルAIの説明手法の研究が重要なテーマとなっています。