短期メモリ

Short-term Memory

短期メモリとは

短期メモリ(Short-term Memory)とは、AIエージェントが現在のタスクやセッションの中で一時的に保持する情報のことです。直近の対話内容、現在のタスクの状態、中間結果などが含まれ、エージェントが文脈に沿った行動を取るために不可欠な要素です。

表:短期メモリの要点まとめ
ひとことで言うと今取り組んでいる作業の文脈を、一時的に保持しておく記憶。
どこに保持するかコンテキストウィンドウの中。会話履歴や直近の実行結果。
注意点上限があるため、長い作業では古い内容から消えていく。

LLMにおける短期メモリ

LLMベースのエージェントでは、短期メモリは主にコンテキストウィンドウ(プロンプトに含めることができるテキストの量)によって実現されます。コンテキストウィンドウ内にある情報がエージェントの「短期記憶」として機能し、応答の生成に直接影響を与えます。

図:短期メモリの扱い
1会話が進む履歴が積み上がる
▶
2上限に近づくトークン数を監視
▶
3古い部分を要約圧縮して残す
▶
4重要点だけ保持作業を継続できる

短期メモリの管理手法

コンテキストウィンドウには上限があるため、効率的な短期メモリ管理が重要です。主な手法には、スライディングウィンドウ(古い会話を順次削除)、要約メモリ(過去の対話を要約して圧縮)、トークンバッファ(重要な情報を優先的に保持)などがあります。

短期メモリの重要性

短期メモリの品質はエージェントのパフォーマンスに直結します。適切に管理された短期メモリにより、エージェントは対話の一貫性を保ち、以前の発言との矛盾を避け、ユーザーの意図を正確に理解し続けることができます。逆に短期メモリの管理が不十分だと、文脈を忘れたり矛盾した行動を取ったりする問題が発生します。