解釈可能性（Interpretability）とは
解釈可能性（Interpretability）とは、機械学習モデルの動作原理や意思決定プロセスを人間が直感的に理解できる度合いを指します。モデルが「なぜそのような予測をしたのか」を人間が把握できるかどうかという性質であり、AI倫理における重要な要素です。
本質的に解釈可能なモデル
一部のモデルは、その構造上、本質的に解釈可能です。線形回帰モデルでは各特徴量の係数が予測への寄与を直接示します。決定木では、分岐条件がそのまま意思決定のルールとして読み取れます。ロジスティック回帰やナイーブベイズも比較的解釈しやすいモデルです。これらのモデルは「ホワイトボックス」とも呼ばれます。
解釈可能性と性能のトレードオフ
一般的に、モデルの複雑さが増すほど予測性能は向上しますが、解釈可能性は低下するというトレードオフがあります。深層学習やアンサンブルモデルは高い予測性能を持ちますが、内部の動作を人間が理解することは困難です。近年の研究では、解釈可能性を維持しながら高い性能を達成するモデルの開発も進んでいます。
解釈可能性が求められる場面
医療診断では医師がAIの判断根拠を確認する必要があり、金融審査では申請者に対する説明義務が生じ、司法分野では公正な判断の検証が求められます。人命や権利に直接関わる場面では、解釈可能性の高いモデルが選択されるか、事後的な説明手法の適用が必須となります。解釈可能性はAIの社会実装における信頼の基盤です。