短期メモリとは
短期メモリ（Short-term Memory）とは、AIエージェントが現在のタスクやセッションの中で一時的に保持する情報のことです。直近の対話内容、現在のタスクの状態、中間結果などが含まれ、エージェントが文脈に沿った行動を取るために不可欠な要素です。
LLMにおける短期メモリ
LLMベースのエージェントでは、短期メモリは主にコンテキストウィンドウ（プロンプトに含めることができるテキストの量）によって実現されます。コンテキストウィンドウ内にある情報がエージェントの「短期記憶」として機能し、応答の生成に直接影響を与えます。
短期メモリの管理手法
コンテキストウィンドウには上限があるため、効率的な短期メモリ管理が重要です。主な手法には、スライディングウィンドウ（古い会話を順次削除）、要約メモリ（過去の対話を要約して圧縮）、トークンバッファ（重要な情報を優先的に保持）などがあります。
短期メモリの重要性
短期メモリの品質はエージェントのパフォーマンスに直結します。適切に管理された短期メモリにより、エージェントは対話の一貫性を保ち、以前の発言との矛盾を避け、ユーザーの意図を正確に理解し続けることができます。逆に短期メモリの管理が不十分だと、文脈を忘れたり矛盾した行動を取ったりする問題が発生します。