ヒューマンインザループとは
ヒューマンインザループ（Human-in-the-Loop, HITL）とは、AIエージェントの動作プロセスに人間の判断・確認・承認を組み込む設計パターンのことです。AIが完全に自律的に動作するのではなく、重要な決定ポイントで人間のチェックを介在させることで安全性と品質を確保します。
| ひとことで言うと | 自動処理の要所に人の確認・承認を組み込む設計のこと。 |
|---|---|
| どこで入れるか | 外部への送信、金銭の支払い、データの削除、公開コンテンツの投稿。 |
| 注意点 | 確認箇所が多すぎると自動化の意味が薄れる。リスクの高い所に絞る。 |
HITLが必要な理由
AIエージェントは強力ですが、ハルシネーション、意図しない行動、予期せぬ副作用などのリスクがあります。特に取り消しが困難なアクション（メールの送信、ファイルの削除、金融取引など）では、人間の確認が不可欠です。HITLはAIの効率性と人間の判断力を組み合わせた最適なアプローチです。
1AIが案を作る下書きや実行計画
▶
2リスクを判定取り返しがつくか
▶
3低リスクは自動そのまま実行
▶
4高リスクは承認待ち人が内容を確認
▶
5承認後に実行責任の所在が明確に
HITLの実装パターン
実装パターンには、承認型（重要なアクション前に人間の承認を求める）、監視型（エージェントの行動をリアルタイムで監視し必要時に介入）、例外型（エージェントが対処できない場合のみ人間にエスカレーション）、レビュー型（結果を人間が事後的に確認）などがあります。
HITLの設計原則
効果的なHITL設計では、人間への確認頻度のバランス（多すぎると効率低下、少なすぎるとリスク増大）、確認内容のわかりやすさ（人間が適切に判断できる情報提示）、緊急時の即時停止機能の提供が重要です。Claude Codeなどの最新のエージェントは、この設計原則を積極的に取り入れています。