AIのハルシネーション（幻覚）｜もっともらしい嘘を自信たっぷりに語る理由

歴史の日付や本の引用を平然と捏造するコンピューター

AIチャットに「日本の歴代首相で、初めて宇宙旅行に行った人物とその搭乗記録を教えて」と尋ねてみてください。優秀なモデルであれば即座に「そのような人物は存在しません」と正しく答えますが、設定や質問の聞き方によっては、「1985年に宇宙を飛行した〇〇首相であり、搭乗機は〇〇号でした」と、もっともらしい実在の宇宙船名や搭乗年を交えながら流暢に語り始めることがあります。

人工知能の研究分野では、この現象をハルシネーション（幻覚）または作話（コンファブレーション）と呼びます。AIが悪意を持って利用者を騙そうとしているのではなく、またシステムが故障しているわけでもありません。現在の生成AIが言葉を紡ぎ出す仕組みそのものから、どうしても生まれてしまう避けられない性質（構造的特性）なのです。

真実の記録を検索しているのではなく、自然な単語を予測している

私たちがGoogleなどの検索エンジンを使うとき、背後にあるプログラムは何十億ものウェブページから該当する記録を探し出し、そのまま画面に表示します。検索エンジンは事実を「照会」する図書館のような存在です。

これに対して文章を作るAI（大規模言語モデル / LLM）は、膨大な百科事典を丸暗記した保管庫ではありません。過去に読んだ大量の文章から「言葉と言葉がどうつながるか」のパターンを覚えた予想プログラム（統計モデル）です。利用者が質問を入力すると、システムは「これまでの文脈において、次に来るのが最も自然で読みやすい単語は何か」を確率で計算し、滑らかな文章を一語ずつ紡ぎ出します。

AIの頭脳にとって一番大切なのは「文章が文法的に自然で、文脈の流れに適合しているか」であり、「それが現実世界で実際に起きた事実かどうか」を確かめる機能は最初から備わっていません。そのため、手元に確かな情報がないときほど、AIは話の流れをつなぎ合わせるために、いかにも本物らしい言葉をその場で滑らかに作り出してしまう（捏造してしまう）のです。

外部検索との連携（グラウンディング）や単語のブレ調整による対策

ハルシネーションによる誤情報の拡散を防ぐため、開発者たちはAIが嘘をつかないようにするための工夫を重ね、実用的な対策を整えています。

• 最新の外部検索とつなぐ仕組み（グラウンディング / RAG）：AIが勝手な想像で答える前に、信頼できる検索エンジンや企業データベースをその場で検索させ、取得した一次情報資料を手元のメモのように参照させてから回答を作らせます。
• 単語選びの冒険度を抑える調整（温度パラメータ / Temperature）：次に選ぶ言葉の自由度（ランダム性）を制御する数値を低く設定することで、思いつきの脱線や突飛な創作を抑え、確率が最も高く手堅い表現だけを選択させます。
• 出来上がった文章の自己点検（自動監査）：AIが文章を生成した直後、別の指示文（検証プロンプト）を使って「文中の数値や人名が前提資料と矛盾していないか」を自動的に読み直してチェックさせます。

利用者が騙されないための対話習慣と検証ルール

日常の調べ物やビジネスでAIを活用する際、ハルシネーションのリスクを最小限に抑えるための確実な実践習慣があります。

• わからない場合は推測せず「知らない」と答えるよう指示する：「不確実な情報や記録が見つからない場合は、推測で書かずに情報なしと明記してください」と冒頭で指定します。
• 出典のURLや原典の提示を義務付ける：単に解説を求めるだけでなく、どの公的機関の発表や報告書に基づいているかの出典を同時に挙げさせます。
• AI自身に真偽を問いたださない：AIが生成した回答に対して「これは本当ですか？」と聞いても、モデルは自分の過去の発言を正当化する追加の嘘を重ねやすいため、必ず独立した外部の信頼できる情報源で事実確認を行います。

AIは万能の真実判定機ではなく、言葉を滑らかに組み立てるのが得意な作文のパートナーです。アイデア出し（ブレインストーミング）や文章の手直しには絶大な力を発揮しますが、医療、法律、税務などの重要な事実確認においては、私たち人間が必ず公的な一次資料に立ち返るという役割分担が不可欠です。