フェイルセーフとは
フェイルセーフ（Fail-safe）とは、AIシステムが故障や異常な状態に陥った際に、安全な状態に自動的に移行する設計原則および機構のことです。「失敗しても安全」を意味し、システムの完全な信頼性が保証できない現実において、障害発生時の被害を最小限に抑えることを目的とします。
AIにおけるフェイルセーフの実装
AIシステムのフェイルセーフには、信頼度に基づく判断保留（自信度が低い場合に人間に判断を委ねる）、フォールバック機構（AIが機能しない場合の代替プロセス）、出力の範囲制限（物理的に危険な出力を制約する）、タイムアウト（一定時間応答がない場合の自動停止）などの実装パターンがあります。
重要性が高い分野
フェイルセーフの実装は、AIが人命や安全に直結する分野で特に重要です。自動運転車では、AIの認識が不確実な場合に安全に停車する機能が必須です。医療AIでは、不確実な診断を医師に確認を促す形で提示する仕組みが求められます。産業ロボットでは、異常を検知した際に動作を停止する安全装置が法規制で義務付けられています。
設計の原則
効果的なフェイルセーフ設計の原則として、「デフォルトは安全」（不確実な場合は安全側に倒す）、「段階的な劣化」（全体が一度に故障せず段階的に機能を縮退させる）、「多重化」（複数の独立した安全機構を備える）、「自己診断」（システムが自身の状態を継続的に監視する）などがあります。AIの社会実装が進む中、フェイルセーフ設計はますます重要性を増しています。