自己反省(Self-Reflection)とは
自己反省(Self-Reflection)とは、AIエージェントが自身の出力や行動を振り返り、評価し、改善点を特定するプロセスのことです。人間の内省に相当し、エージェントがエラーを自ら発見して修正する能力を与える重要な技術です。
| ひとことで言うと | AIが自分の出力を見直して、問題点を自分で指摘する仕組み。 |
|---|---|
| 何がうれしいか | 一発で出した答えより、見直しを入れたほうが品質が上がる。 |
| 注意点 | 自分の誤りに気づけないこともある。人の確認を置き換えるものではない。 |
自己反省の仕組み
自己反省では、エージェントがまず行動を実行し、その結果を観察した後、別のプロンプト(または同じLLMの別の呼び出し)で「この結果は適切か?改善点はないか?」と自問します。反省の結果を基に行動を修正し、より良い結果を目指します。Reflexionフレームワークはこのアプローチの代表的な実装です。
1回答を作るまず一度出力
▶
2自分で批評不足や誤りを探す
▶
3改善点を列挙具体的に指摘
▶
4書き直す指摘を踏まえて修正
↺ 指摘がなくなるまで1〜4をくり返す
自己反省の種類
出力品質の評価(生成したコードやテキストの品質チェック)、計画の妥当性検証(立てた計画が実行可能かの確認)、行動の振り返り(実行したアクションの適切さの評価)、戦略の見直し(全体的なアプローチの再評価)など、様々なレベルの自己反省があります。
自己反省の効果と限界
自己反省により、エージェントの出力品質が大幅に向上することが研究で示されています。しかし、LLMが自身の誤りを常に正しく検出できるとは限らず、過度な自己反省はコンピュート資源の浪費につながることもあります。自己反省の適切な頻度と深度の設定が実用上重要です。