活性化マップ

活性化マップとは

活性化マップ（Activation Map）は、ニューラルネットワークの各層で活性化関数を適用した後の出力を空間的に表現したものです。特徴マップ（Feature Map）と同義で使用されることが多く、入力データに対するネットワークの応答を視覚化するために利用されます。特定のニューロンがどの入力パターンに強く反応するかを示します。

活性化マップの生成

活性化マップは、畳み込み層のフィルタ出力にReLUなどの活性化関数を適用することで生成されます。ReLU活性化後の活性化マップでは負の値がすべて0になるため、フィルタが「検出した」特徴のみが残ります。各フィルタは異なるパターン（水平エッジ、垂直エッジ、特定のテクスチャなど）に反応するため、複数の活性化マップが生成されます。

活性化マップの可視化手法

活性化マップの可視化は、モデルの解釈可能性を高めるために重要です。直接的な可視化では各層の活性化値をヒートマップとして表示します。Grad-CAM（Gradient-weighted Class Activation Mapping）は、分類結果に対する各位置の貢献度を計算し、モデルがどこを見て判断したかを視覚化します。

活性化マップの応用

活性化マップの分析は、モデルのデバッグ、性能改善、信頼性の検証に活用されます。医療画像診断では、モデルが病変部位に適切に注目しているかを活性化マップで確認することが品質管理の一環として行われています。また、敵対的攻撃の検出や、モデルのバイアス分析にも活性化マップの情報が利用されています。