人間の監視とは
人間の監視（Human Oversight）とは、AIシステムの意思決定や動作を人間が監督・制御する仕組みのことです。AIが完全に自律的に動作するのではなく、重要な判断に人間が関与することで、AIの誤りや暴走を防ぎ、最終的な責任を人間が担保する体制を構築します。
| ひとことで言うと | AIの判断や動作を人が見守り、必要なら介入できる状態にすること。 |
|---|---|
| EU AI Actでは | 高リスクAIに対して、人による効果的な監督を求めている。 |
| 注意点 | 形だけの「確認」では不十分。実際に判断できる情報と時間を与える。 |
監視のレベル
人間の監視には複数のレベルがあります。Human-in-the-Loop（HITL）はAIの判断ごとに人間が承認する最も厳格な方式です。Human-on-the-Loop（HOTL）は通常はAIが自律的に動作し、人間は全体を監視して必要時に介入します。Human-over-the-Loop はAIの設計や方針レベルで人間が関与し、個々の判断にはAIの裁量に委ねる方式です。
1AIが判断を提示根拠も一緒に示す
▶
2人が理解できる説明が十分か
▶
3判断する時間がある急かされない設計
▶
4覆すことができる却下の権限がある
▶
5停止できるシステムを止められる
法規制における位置づけ
EU AI規制法（AI Act）は、高リスクAIシステムに対して人間の監視を義務付けています。AIの判断を理解し、必要に応じて介入・停止できる能力を持つ担当者の配置が求められます。また、自動化された意思決定に対してGDPR第22条は人間の介入を受ける権利を保障しています。
課題と限界
人間の監視にもいくつかの課題があります。自動化バイアス（人間がAIの判断を過度に信頼する傾向）、監視疲れ（長時間の監視による注意力の低下）、AIの処理速度と人間の判断速度の不一致、監視に必要な専門知識の確保などです。効果的な人間の監視を実現するには、適切な界面設計、監視者への訓練、監視の負担軽減策が不可欠です。