AIのハルシネーション｜もっともらしい嘘を堂々と語ってしまう理由

なぜコンピューターは間違っているのに自信たっぷりに話すのか

人工知能のチャットボットに歴史上の出来事について質問したり、あるテーマに関する本を教えてほしいと頼んだとします。すると数秒のうちに、有名な学者の名前や本の題名、出版された年まできちんと入った見事な文章が返ってきます。その知識の広さに感心しながら図書館で調べてみると、なんとその本は実在せず、学者の名前も架空のものであることが判明します。コンピューターは悪びれる様子もなく、まったくの作り話を本物の事実であるかのように語ったのです。

専門家の間では、この現象を幻覚を意味するハルシネーションと呼んでいます。しかし、機械が夢を見たり意識を持ったりしているわけではありません。言語モデルは真実を調べる百科事典ではなく、次に続く確率が最も高い言葉を予測する巨大な計算機です。文章としていかに自然で美しいかを最優先して言葉をつなぎ合わせているため、事実かどうかの確認を怠ってしまうのです。

旧市街の知ったかぶりな名物ガイドのたとえ

この現象を身近に理解するために、古い観光地でお客さんを案内する、とてもおしゃべりが上手なツアーガイドを想像してみてください。ガイドは話術に長けていて、観光客を楽しませるのが大好きですが、『分かりません』と口にするのをプライドが許しません。

ある古いレンガ造りの建物の前で、旅行客から『この建物はいつ建てられて、誰が住んでいたのですか？』と尋ねられました。ガイドは建物の正確な歴史をまったく知りません。しかし素直に知らないと答える代わりに、建物の佇まいを見ながら『ここは十八世紀に裕福な絹商人が建てた館で、街の発展に大きく貢献した名士の邸宅でした』と、その場で思いついた話を朗々と語り始めます。身振り手振りも堂々としていて話の筋が通っているため、観光客は全員が熱心にメモを取り、素晴らしい歴史を学んだと信じ込んでしまいます。ガイドには悪気はなく、場を盛り上げるそれらしい話を返すことが自分の役目だと思い込んでいるのです。

対話型の人工知能もまさにこのガイドと同じです。本当と嘘の区別がついているわけではなく、前後の文脈にぴったり合う言葉を選んで話の隙間を埋めようとします。その結果、事実の確認ができないまま、もっともらしい嘘が滑らかな言葉で紡ぎ出されることになります。

日常生活のどんな場面でハルシネーションが起きるか

この問題は専門的な難しい学問だけでなく、私たちが普段行う作業の中でも頻繁に顔を出します。

• 学校のレポート作成や調べ学習: 存在しない参考文献や論文のタイトルを提示され、そのまま提出して先生から事実無根だと指摘されてしまうことがあります。
• 法律や行政の手続きに関する相談: 過去に廃止された古い条文や、実在しない架空の特例制度をもっともらしく説明され、手続きでトラブルになる恐れがあります。
• 長い文章や会議の議事録の要約: 元の文章には書かれていない結論や数字を、話の流れから勝手に推測して要約の中に付け足してしまうことがあります。
• 人物の経歴やプロフィールの調査: 同姓同名の別人の経歴をごちゃ混ぜにして、一つの架空の華々しい経歴を作り上げてしまうことがあります。

嘘を見抜き上手に付き合うための三つの知恵

間違いがあるからといって、便利な道具をすべて遠ざける必要はありません。私たちが『編集長』の立場になって確認する姿勢を持てば良いのです。

• 分からないときは分からないと答えるよう指示する: 質問の末尾に『確証がない場合は推測せず、分からないと答えてください』と一言添えるだけで、作り話の頻度が大きく減ります。
• 具体的な数字や日付、固有名詞は必ず自分で確認する: 回答に含まれる日付や法律の名称、引用された情報源は、必ず公式サイトや公的な資料で裏付けを取ってください。
• 文章の下書きやアイデア出しの相手として使う: 事実の調査員としてではなく、文章の構成案を考えたり、表現を言い換えたりするための壁打ち相手として活用するのが安全です。

コンピューターは言葉を美しく整える名人ですが、何が真実かを見極める責任は常に私たち人間にあります。道具の得意なことと不得意なことを知り、適度な距離感と好奇心を持って付き合うことで、安心してデジタルの恩恵を受け取ることができます。