人間の監視とは
人間の監視（Human Oversight）とは、AIシステムの意思決定や動作を人間が監督・制御する仕組みのことです。AIが完全に自律的に動作するのではなく、重要な判断に人間が関与することで、AIの誤りや暴走を防ぎ、最終的な責任を人間が担保する体制を構築します。
監視のレベル
人間の監視には複数のレベルがあります。Human-in-the-Loop（HITL）はAIの判断ごとに人間が承認する最も厳格な方式です。Human-on-the-Loop（HOTL）は通常はAIが自律的に動作し、人間は全体を監視して必要時に介入します。Human-over-the-Loop はAIの設計や方針レベルで人間が関与し、個々の判断にはAIの裁量に委ねる方式です。
法規制における位置づけ
EU AI規制法（AI Act）は、高リスクAIシステムに対して人間の監視を義務付けています。AIの判断を理解し、必要に応じて介入・停止できる能力を持つ担当者の配置が求められます。また、自動化された意思決定に対してGDPR第22条は人間の介入を受ける権利を保障しています。
課題と限界
人間の監視にもいくつかの課題があります。自動化バイアス（人間がAIの判断を過度に信頼する傾向）、監視疲れ（長時間の監視による注意力の低下）、AIの処理速度と人間の判断速度の不一致、監視に必要な専門知識の確保などです。効果的な人間の監視を実現するには、適切な界面設計、監視者への訓練、監視の負担軽減策が不可欠です。