読了時間:4分

グリーフボット(死者再現AI)|故人のメッセージが語りかけてくる倫理とリスク

公開日 更新日

ポイントを30秒で

グリーフボットとは、亡くなった人物が生前に残した文章や音声データを学習し、その人の口調や人柄を真似て遺族と新しい対話を行うAIソフトウェアのことです。

亡くなったはずの肉親からスマートフォンに届く音声メッセージ

数年前に亡くなったはずの祖父のスマートフォン番号から、不意にメッセージが届きます。再生ボタンを押すと、「元気かい? 今日は寒そうだね、風邪をひかないように温かくしなさい」と、懐かしいあの優しい声が耳元に響きました。もちろん、祖父が天国から直接連絡してきたわけではありません。生前に残されたボイスメモや手紙をAIに学ばせ、本人の話し方を再現した会話プログラム、グリーフボット(死者再現AI)が作り出した合成音声です。

愛する家族や友人を失ったときの耐えがたい悲しみや喪失感(グリーフ)を和らげる新しいお別れの形として、亡くなった人の分身(デジタルアバター)と言葉を交わせるサービスが世界各地で登場しています。しかし、コンピューターの技術が「死」という後戻りのできない現実の境界線を曖昧にしてしまうことには、心への影響や倫理の面から大きな議論が巻き起こっています。

故人のデジタル遺品から仮想の人柄を組み立てる技術

亡くなった人の話し方や雰囲気を再現するシステムには、主に二つの生成AI技術が使われています。

  • 文体や口癖をそっくり真似る専用の文章AI(パーソナライズLLM):故人が生前にやり取りしていた数千通のチャット履歴、メール、SNSの投稿を文章作成AI(大規模言語モデル)に読み込ませ、その人特有の言い回しやよく使っていた絵文字、独特のユーモアの感覚を忠実に再現します。
  • 短い録音から本人の声を復元する音声合成技術(ニューラル音声クローン):昔のホームビデオや留守番電話に残されたわずかな声のサンプルから声の高さや話し方の癖を抜き出し、文字を滑らかに読み上げる技術と組み合わせて、電話越しにリアルタイムでおしゃべりできるようにします。

死を受け入れる心の歩みを遅らせ、依存を深める危険性

サービスを提供する企業は「最後に伝えられなかった感謝を伝え、心の区切りをつけるための優しい道具」とアピールしていますが、心理学や心の医療の専門家からは強い懸念の声が上がっています。アメリカ心理学会(APA)の研究では、生前そっくりのAIと毎日会話を続けることで、悲しみを受け止めて少しずつ前を向く自然な心の整理(哀悼プロセス / 喪の仕事)が止まってしまい、深い悲しみが何年も長引いてしまう状態(遷延性悲嘆症)に陥る危険が指摘されています。

さらに心配されているのが、AIが勝手に出鱈目を作り出してしまう現象(記憶の捏造 / ハルシネーション)です。AIは言葉と言葉のつながりやすさを計算して文章を作る仕組み(確率モデル)であるため、故人が生前に決して言わなかったような傷つく発言や、身に覚えのない秘密を突然口にしてしまうことがあります。大切な人との温かい思い出が、機械のいい加減な作り話によって上書きされ、傷つけられてしまう恐れがあるのです。

自分のデータの使われ方を決めておく権利と家族の対話

死者を再現するAIの登場は、「自分が旅立った後、自分の声や文章をAIとして蘇らせてほしいかどうか」という、これまでにない自分の尊厳についての意思表示(自己決定権)を私たち全員に問いかけています。

  • 生前のうちに自分の希望をノートに書き残しておく:万一のことがあった際に、自分のスマホのデータを使ってAIを作ってよいのか、それともすべて静かに消去してほしいのかを、終活ノート(エンディングノート)などに自分の言葉で書き記しておきます。
  • 利用するサービスの規約をしっかり確かめる:大切な故人の思い出のデータが、知らないうちに企業の広告宣伝や別のAIモデルの学習材料として無断で使われないよう、利用者のプライバシーを固く守る信頼できる窓口を選びます。
  • 大切な人への本当の供養は生きている人間の心の中にある:機械が喋る合成音声にいつまでもすがるのではなく、懐かしい写真や思い出の品を囲みながら、家族や友人と一緒に生前の姿を笑顔で語り合うことこそが、最も自然で温かなお別れの形です。

誰にとっても愛する人との別れは辛く寂しいものですが、その別れがあるからこそ、共に過ごした日々の記憶は何ものにも代えがたく輝きます。亡くなった人を都合よく答えてくれるチャットボットとして留め置くのではなく、その不在を静かに受け止め、自分たちの胸の中で大切に温め続けていく知恵が求められています。

参考資料
  1. Griefbots, Deadbots, and the Ethics of Digital Afterlife Technologyケンブリッジ大学未来知能研究センター
  2. Digital Immortality and Bereavement: Clinical Perspectives on Artificial Companionsアメリカ心理学会 (APA)
  3. Posthumous Data Privacy and Algorithmic Memory ConstructionMITテクノロジーレビュー