温度パラメータ(生成)

Temperature (Generation)

温度パラメータとは

温度パラメータ(Temperature)とは、生成AIがテキストを生成する際の出力のランダム性(多様性)を制御するハイパーパラメータです。通常0から2の範囲で設定され、値が低いほど確定的(決定論的)な出力になり、高いほど多様でクリエイティブな出力が得られます。

温度パラメータの仕組み

LLMがテキストを生成する際、次に来る各トークンの確率分布(ロジット)を計算します。温度パラメータはこの確率分布のソフトマックス計算に適用され、温度が低い(例:0.1)場合は最も確率の高いトークンが圧倒的に選ばれやすくなり、温度が高い(例:1.5)場合は確率の低いトークンも選ばれる可能性が増します。温度0は常に最も確率の高いトークンを選択するグリーディデコーディングに相当します。

タスク別の推奨設定

事実の検索や数値計算、コード生成など正確性が重要なタスクでは低い温度(0〜0.3)が適しています。一般的な文章生成や要約では中程度の温度(0.5〜0.7)がバランスよく機能します。クリエイティブライティングやブレインストーミングでは高い温度(0.8〜1.2)を設定すると多様な発想が得られます。タスクの目的に応じて適切な温度を選択することが、生成AIの効果的な活用の鍵です。