自己修正とは
自己修正(Self-Correction)とは、AIエージェントが自身の出力や行動のエラーを検出し、自律的に修正するプロセスのことです。自己反省で発見された問題点を実際に修正するアクションまでを含む、より実践的な能力です。
自己修正のプロセス
自己修正の典型的なプロセスは、まず出力の生成、次にその出力の検証(テスト実行、論理チェック、外部ツールでの確認など)、エラーの特定、そしてエラー原因の分析と修正という流れです。コーディングエージェントの場合、コードの生成→テスト実行→エラー検出→コード修正→再テストという反復サイクルが典型的です。
自己修正の手法
外部フィードバックに基づく修正(テスト結果、APIエラー、ユーザーの指摘など)、自己評価に基づく修正(LLM自身による品質評価)、ルールベースの修正(事前定義されたバリデーションルール)など、複数の手法が存在します。外部フィードバックに基づく修正が最も信頼性が高いとされています。
自己修正の課題
LLMは時として正しい出力を誤って「修正」してしまったり、根本的な誤りに気づかず表面的な修正に終始したりすることがあります。また、自己修正のループが収束せず無限に修正を繰り返す可能性もあるため、適切な停止条件の設定が重要です。