インシデント対応(AI)とは
AIインシデント対応とは、AIシステムにおけるセキュリティインシデント（攻撃の検出、データ漏洩、モデルの異常動作など）が発生した際に、被害の拡大を防止し、原因を特定し、システムを復旧させるための組織的な対応プロセスです。
| ひとことで言うと | AIのセキュリティ事故が起きたときの、検知から復旧までの対応。 |
|---|---|
| 何を決めておくか | 誰に連絡するか、どう止めるか、どこまで公表するか、記録の残し方。 |
| 注意点 | 事故後に考えるのでは遅い。手順書と連絡体制を事前に作る。 |
AI特有のインシデント
AIシステムでは、従来のITインシデントに加えてAI特有のインシデントが発生します。モデルの汚染・バックドアの発見、大規模なプロンプトインジェクション攻撃、訓練データの漏洩、モデルの意図しない有害出力の拡散、敵対的攻撃によるシステムの誤動作、モデル窃取の発覚などが該当します。これらのインシデントは影響範囲の特定や根本原因の分析が複雑になることが多いです。
1検知異常に気づく
▶
2初動・封じ込め被害の拡大を止める
▶
3影響範囲の調査何がどこまで及んだか
▶
4復旧安全な状態に戻す
▶
5再発防止と報告原因分析と対策
対応フレームワーク
AIインシデント対応は、準備（対応計画の策定、チーム編成、ツール整備）、検知と分析（異常検出、インシデントの分類と優先度判定）、封じ込め（影響拡大の防止、モデルの一時停止）、根絶（脆弱性の修正、汚染データの除去）、復旧（モデルの再デプロイ、正常性確認）、事後対応（レッスンズラーンドの記録、プロセス改善）の段階で進めます。AI Incident Databaseなどの共有リソースを活用し、他組織のインシデント事例から学ぶことも重要です。