LIMEとは
LIME（Local Interpretable Model-agnostic Explanations）とは、任意の機械学習モデルの個々の予測結果を局所的に解釈可能なモデルで近似することで、予測の説明を生成する手法です。2016年にRibeiroらによって提案され、XAI（説明可能なAI）の代表的な手法のひとつとして広く利用されています。
LIMEの仕組み
LIMEは、説明対象のデータポイント周辺でランダムに摂動を加えたデータを生成し、元のモデルでそれらの予測を行います。次に、元のデータポイントとの距離に基づく重み付けを行いながら、線形モデルや決定木などの解釈可能なモデルでこれらの予測を近似します。この局所的な近似モデルの係数や構造から、各特徴量が予測にどの程度寄与しているかを読み取ることができます。
LIMEの適用例
テキスト分類タスクでは、どの単語が分類結果に影響を与えたかを可視化できます。画像分類タスクでは、画像のどの領域が分類判断の根拠となったかを示すことができます。表形式データでは、各特徴量の寄与度を棒グラフなどで直感的に表示できます。
LIMEの利点と限界
LIMEの最大の利点は、モデルに依存せず（Model-Agnostic）あらゆるモデルに適用できることです。一方で、局所的な近似であるため大域的なモデルの振る舞いは捉えられないこと、摂動の生成方法によって説明が不安定になりうること、高次元データでの近似精度が低下することなどの限界があります。SHAPなどの他手法と組み合わせて使用することが推奨されます。