ハルシネーションとは
ハルシネーション（Hallucination：幻覚）とは、生成AIが事実に基づかない、もっともらしいが虚偽の情報を生成する現象です。LLMは統計的なパターンマッチングに基づいてテキストを生成するため、訓練データに含まれない情報について尤もらしい回答を「でっち上げる」ことがあります。AIの信頼性における最大の課題の一つです。
ハルシネーションの種類と原因
ハルシネーションには、存在しない事実を創作する「事実性ハルシネーション」、入力と矛盾する内容を生成する「忠実性ハルシネーション」、架空の文献や引用を生成する「引用ハルシネーション」などがあります。原因としては、訓練データの偏りや不足、モデルの過度な一般化、確率的生成メカニズムの限界、学習データのカットオフ日以降の情報への対応困難などが挙げられます。
ハルシネーション対策
ハルシネーションを完全に排除することは現時点では困難ですが、軽減する方法は複数あります。RAG（検索拡張生成）による外部知識の参照、グラウンディング技術による事実との照合、温度パラメータの低減、出力に対する人間レビューの実施、AIに「分からない」と回答させる指示の追加などが有効です。ビジネス利用では、ハルシネーションのリスクを認識した上で適切な検証プロセスを組み込むことが不可欠です。