XAI（説明可能なAI）とは
XAI（Explainable AI、説明可能なAI）とは、AIシステムの意思決定プロセスや予測根拠を人間が理解・検証できる形で提示するための技術・手法の総称です。深層学習などの複雑なモデルがブラックボックス化する中で、AIの判断を説明する技術への需要が高まっています。
XAIの主要な手法
XAIの手法は大きく2つに分類されます。モデル非依存型（Model-Agnostic）手法は、どのようなモデルにも適用でき、LIME（局所的な説明）やSHAP（Shapley値に基づく説明）が代表的です。モデル固有型手法は、特定のモデルに対して設計されたもので、ニューラルネットワーク向けのGrad-CAM（注目領域の可視化）やアテンション可視化などがあります。
XAIの応用分野
XAIは幅広い分野で活用されています。医療分野ではAIの診断根拠を医師に提示し、金融分野では融資判断の理由を申請者に説明し、製造業では品質検査AIの判断基準を作業者に示します。自動運転分野でも、AIがなぜ特定の判断を行ったかを事後的に分析するためにXAI技術が活用されています。
XAIの課題と今後
XAIにはいくつかの課題があります。説明の忠実度（説明がモデルの実際の動作をどの程度正確に反映しているか）の評価が難しいこと、説明の対象者によって適切な粒度が異なること、説明を追加することによる計算コストの増加などです。今後は、大規模言語モデルの説明可能性や、マルチモーダルAIの説明手法の研究が重要なテーマとなっています。