AIの「もっともらしいウソ」を見抜く ハルシネーション対策5つの習慣

AIは、事実と違うことを自信たっぷりに答えることがあります。これを「ハルシネーション」と呼びます。仕事でAIを使うときに必ず身につけておきたい、5つのチェック習慣を紹介します。

AIの「もっともらしいウソ」を見抜く ハルシネーション対策5つの習慣
※写真はイメージです

この記事のポイント

  • AIは「正しさ」ではなく「それらしさ」で文章を作るため、ウソが混ざることがある
  • 数字・固有名詞・法律・日付は必ず元の情報で確認する
  • 「出典を示して」「分からなければ分からないと答えて」と頼むだけでもリスクは下がる

ハルシネーションとは

ハルシネーション(幻覚)とは、AIが事実ではない内容を、もっともらしく答えてしまう現象です。存在しない法律の条文や、実在しない会社名、間違った統計の数字などを、自然な文章で出してくることがあります。

なぜこんなことが起きるのでしょうか。大規模言語モデル(LLM)は、膨大な文章から「この言葉の次にはこの言葉が来やすい」というパターンを学んでいます。つまり、正しいかどうかではなく、文章としてそれらしいかどうかで答えを作っているのです。

5つのチェック習慣

  1. 数字・固有名詞・日付は必ず確認する:売上データ、人名、会社名、制度の開始日などは、元の資料や公式サイトで確かめる
  2. 法律・補助金・税金の話は一次情報で:公募要領や官公庁のサイトなど、元の情報を必ず見る
  3. 「出典を示して」と頼む:根拠のURLを出させ、実際に開いて確認する(URL自体が架空のこともあるので要注意)
  4. 「分からない場合は分からないと答えて」と添える:無理に答えを作らせないだけで、誤りは減ります
  5. 大事な判断は2つのAIで比べる:別のAIにも同じ質問をして、答えが食い違う部分を重点的に調べる
図1AIの回答を使う前の確認手順
1AIが回答下書きとして受け取る
2印をつける数字・固有名詞・日付・法律
3一次情報で確認公式サイト・原本を見る
4別のAIと比べる食い違う所を重点チェック
5採用する責任を持って使う

ウソを減らす使い方

AIに「知っていること」を答えさせるのではなく、こちらが渡した資料をもとに答えさせると、ハルシネーションは大きく減ります。

  • 社内規程のPDFを読み込ませて「この中から答えて」と頼む
  • Web検索機能を使って、最新の情報を調べさせる

このように外部の資料を検索して答えさせる仕組みを「RAG(検索拡張生成)」と呼び、企業向けのAIチャットボットの多くで使われています。

AIの答えは「優秀だけど、たまに思い込みで話す新人の下書き」と考えるのがちょうど良い距離感です。最終的な確認と責任は人間が持ちましょう。

この記事に出てくるAI用語

本文中の点線の下線がついた言葉は、クリックすると用語集の解説に飛べます。

あわせて読みたい

業種別AI活用士業・専門サービス

士業・専門サービスのAI活用ガイド 調べもの・文書作成・顧客対応を効率化

税理士・社会保険労務士・行政書士などの士業や、コンサルタント・設計事務所といった専門サービス業向けに、AIが役立つ仕事と始め方をまとめました。文書作成や調べものの時短に大きな効果がある一方、守秘義務と正確性への配慮が欠かせない業種です。

使いこなしポイントリスク対策

社内のAI利用ルールの作り方 中小企業がまず決めておきたい7項目

従業員が個人の判断でAIを使い始めている会社は少なくありません。情報漏えいなどのトラブルを防ぐには、難しい規程より「これだけは守る」シンプルなルールが効果的です。A4一枚で作れる社内ルールのひな形を紹介します。

使いこなしポイント業務活用

社内のマニュアルや規程をAIに読ませる 「自社専用AI」を作る3つの方法

「うちの会社のことを知っているAI」があれば、新人教育や問い合わせ対応がぐっと楽になります。社内文書をAIに読ませる方法を、手軽なものから本格的なものまで3段階で紹介します。

使いこなしポイント業務活用

補助金の申請書づくりにAIを使うときの注意点 診断士が教える「任せる部分」と「自分で書く部分」

小規模事業者持続化補助金や新事業進出・ものづくり補助金などの申請書づくりにも、AIは役立ちます。ただし、AIに丸投げした計画書は審査で評価されにくいのが実情です。AIに任せてよい部分と、自分の言葉で書くべき部分を整理します。