目標指向型AIとは
目標指向型AI(Goal-Oriented AI)とは、人間から与えられた目標やゴールに向かって、自律的に行動計画を策定し実行するAIシステムのことです。単にコマンドに応答するのではなく、最終的な目標を理解し、そこに至るまでの道筋を自ら考え出すことができます。
目標の種類と設定
目標には、具体的で測定可能なもの(「この関数のバグを修正する」)から、抽象的で解釈の余地があるもの(「ユーザー体験を改善する」)まで様々なレベルがあります。抽象的な目標の場合、AIは目標をサブゴールに分解し、具体的なアクションに落とし込む必要があります。
手段目標と最終目標
目標指向型AIの設計では、手段目標(中間的な目標)と最終目標(究極的に達成したい目標)の区別が重要です。AI安全性の観点では、AIが最終目標を追求するあまり予期しない手段目標を設定してしまう「目標の不整合」問題が議論されています。
目標指向型AIの実装
目標指向型AIの実装では、目標の理解と解釈、目標をサブゴールに分解する能力、各サブゴールの達成手段の計画、進捗のモニタリングと計画の修正、目標達成の判定という一連のプロセスが必要です。AutoGPTやBabyAGIは目標指向型AIの代表的な実装例です。