AIインシデントとは
AIインシデント（AI Incident）とは、AIシステムが意図しない動作や有害な影響を引き起こした実際の事象を指します。AIの誤判断による被害、偏見に基づく差別的な決定、プライバシー侵害、セキュリティ違反など、AIに起因するあらゆる問題事象が含まれます。
| ひとことで言うと | AIが意図しない動作をして、実害や重大な懸念が生じた出来事。 |
|---|---|
| 例 | 誤った医療判定、差別的な採用結果、自動運転の事故、機密情報の出力。 |
| 注意点 | 発生時の報告・対応・記録の手順を、事前に決めておくことが重要。 |
AIインシデントの類型
AIインシデントは複数の類型に分類されます。性能障害（誤分類、ハルシネーション等）、安全性障害（自動運転事故等）、公平性障害（差別的判断等）、セキュリティ障害（敵対的攻撃の成功等）、プライバシー障害（データ漏洩等）、そして社会的害（偽情報の拡散等）などです。
1検知・報告異常に気づく仕組み
▶
2影響範囲を確認誰にどこまで及んだか
▶
3一時停止・切り戻し被害の拡大を止める
▶
4原因を分析なぜ起きたか
▶
5再発防止と記録手順と設計を改善
著名なAIインシデント
歴史的に重要なAIインシデントには、Uber自動運転車による歩行者の死亡事故（2018年）、Amazonの採用AIが女性を差別した事例、チャットボットTayが暴言を学習した事例、ChatGPTによる弁護士の架空判例引用事件（2023年）、画像生成AIの著作権侵害問題などがあります。これらの事例から得られた教訓は、AI安全性の改善に活かされています。
インシデント対応と学習
AIインシデントへの適切な対応には、迅速な検出と報告、影響範囲の特定、原因分析、是正措置の実施、再発防止策の策定が含まれます。インシデントからの学習は、同様の問題の予防に不可欠です。AI Incident Database等のデータベースを通じたインシデント情報の共有も、コミュニティ全体の安全性向上に貢献しています。