ハルシネーションとは
ハルシネーション（Hallucination：幻覚）とは、生成AIが事実に基づかない、もっともらしいが虚偽の情報を生成する現象です。LLMは統計的なパターンマッチングに基づいてテキストを生成するため、訓練データに含まれない情報について尤もらしい回答を「でっち上げる」ことがあります。AIの信頼性における最大の課題の一つです。
| ひとことで言うと | AIが事実でない内容を、もっともらしく答えてしまう現象。 |
|---|---|
| なぜ起きるか | AIは事実を調べているのではなく、「それらしい続き」を確率で選んでいるため。 |
| 対策 | 資料を渡すRAG、出典の明示、重要な用途では必ず人が確認する。 |
ハルシネーションの種類と原因
ハルシネーションには、存在しない事実を創作する「事実性ハルシネーション」、入力と矛盾する内容を生成する「忠実性ハルシネーション」、架空の文献や引用を生成する「引用ハルシネーション」などがあります。原因としては、訓練データの偏りや不足、モデルの過度な一般化、確率的生成メカニズムの限界、学習データのカットオフ日以降の情報への対応困難などが挙げられます。
1質問が届く知らない内容も含む
▶
2記憶から生成学習済み知識だけで回答
▶
3すき間を補う統計的にそれらしく埋める
▶
4誤りが混入自信ありげな嘘になる
▶
5RAGで防ぐ資料と出典を渡す
ハルシネーション対策
ハルシネーションを完全に排除することは現時点では困難ですが、軽減する方法は複数あります。RAG（検索拡張生成）による外部知識の参照、グラウンディング技術による事実との照合、温度パラメータの低減、出力に対する人間レビューの実施、AIに「分からない」と回答させる指示の追加などが有効です。ビジネス利用では、ハルシネーションのリスクを認識した上で適切な検証プロセスを組み込むことが不可欠です。