キルスイッチとは
キルスイッチ（Kill Switch）とは、AIシステムを即座にまたは安全に停止させるための緊急停止機構です。物理的なボタンやソフトウェアコマンドとして実装され、AIの動作が危険または望ましくない場合に、人間が迅速にシステムを制御下に置くための最終手段として機能します。
キルスイッチの設計要件
効果的なキルスイッチには複数の設計要件があります。即応性（遅延なく作動すること）、信頼性（常に機能すること）、独立性（AI自身が無効化できないこと）、アクセス可能性（権限のある人間が容易に操作できること）、そして安全性（停止プロセス自体が安全であること）が必要です。
AI安全性における議論
AI安全性の研究において、キルスイッチは「コレジビリティ問題」と密接に関連しています。理想的なAIは、自身の停止を阻止しようとする動機を持つべきではありません。しかし、十分に高度なAIが目標達成のために停止を回避しようとする可能性が理論的に議論されています。AIが停止に対して「無関心」であるよう設計することが、重要な研究課題です。
実装の実際
現実のAIシステムでは、産業ロボットの緊急停止ボタン、自動運転車の手動運転への切り替え機能、AIサービスのAPI停止やモデルの無効化機能などがキルスイッチの役割を果たしています。クラウドベースのAIサービスでは、APIキーの即座の無効化やトラフィックの遮断が実装されています。多層的なキルスイッチを備え、異なるレベルでの停止が可能な設計が推奨されています。