自己反省(Self-Reflection)とは
自己反省(Self-Reflection)とは、AIエージェントが自身の出力や行動を振り返り、評価し、改善点を特定するプロセスのことです。人間の内省に相当し、エージェントがエラーを自ら発見して修正する能力を与える重要な技術です。
自己反省の仕組み
自己反省では、エージェントがまず行動を実行し、その結果を観察した後、別のプロンプト(または同じLLMの別の呼び出し)で「この結果は適切か?改善点はないか?」と自問します。反省の結果を基に行動を修正し、より良い結果を目指します。Reflexionフレームワークはこのアプローチの代表的な実装です。
自己反省の種類
出力品質の評価(生成したコードやテキストの品質チェック)、計画の妥当性検証(立てた計画が実行可能かの確認)、行動の振り返り(実行したアクションの適切さの評価)、戦略の見直し(全体的なアプローチの再評価)など、様々なレベルの自己反省があります。
自己反省の効果と限界
自己反省により、エージェントの出力品質が大幅に向上することが研究で示されています。しかし、LLMが自身の誤りを常に正しく検出できるとは限らず、過度な自己反省はコンピュート資源の浪費につながることもあります。自己反省の適切な頻度と深度の設定が実用上重要です。