インシデント対応(AI)とは
AIインシデント対応とは、AIシステムにおけるセキュリティインシデント（攻撃の検出、データ漏洩、モデルの異常動作など）が発生した際に、被害の拡大を防止し、原因を特定し、システムを復旧させるための組織的な対応プロセスです。
AI特有のインシデント
AIシステムでは、従来のITインシデントに加えてAI特有のインシデントが発生します。モデルの汚染・バックドアの発見、大規模なプロンプトインジェクション攻撃、訓練データの漏洩、モデルの意図しない有害出力の拡散、敵対的攻撃によるシステムの誤動作、モデル窃取の発覚などが該当します。これらのインシデントは影響範囲の特定や根本原因の分析が複雑になることが多いです。
対応フレームワーク
AIインシデント対応は、準備（対応計画の策定、チーム編成、ツール整備）、検知と分析（異常検出、インシデントの分類と優先度判定）、封じ込め（影響拡大の防止、モデルの一時停止）、根絶（脆弱性の修正、汚染データの除去）、復旧（モデルの再デプロイ、正常性確認）、事後対応（レッスンズラーンドの記録、プロセス改善）の段階で進めます。AI Incident Databaseなどの共有リソースを活用し、他組織のインシデント事例から学ぶことも重要です。