読了時間:4分

ディープフェイク検知技術|合成動画の痕跡を見抜くAI鑑識の戦いと限界

公開日 更新日

ポイントを30秒で

ディープフェイク検知とは、映像の中の微小な血流変化、瞳に反射する光の向き、画像のデジタルな波の規則性などを分析し、AIによって合成された偽物の動画かどうかを科学的に見分ける技術のことです。

偽動画の広がりに対抗する「AI鑑識ツール」への期待と現実

有名な政治家が突然重大な宣言をしたり、大企業の社長が倒産を発表したりするような衝撃的な動画が、SNS上を一気に駆け巡ったとします。本物か偽物かをめぐって世界中が大混乱に陥る中、多くの人が「AIで自動的にフェイク動画を見破るスキャナーがあれば、すべて解決するのではないか」と期待します。

実際に、世界各国のセキュリティ機関や大学の研究室が、偽物を見抜く「ディープフェイク検知AI」の開発に力を注いでいます。しかし、偽物を作る側(生成AI)と見破る側(検知AI)の間には、終わりのない技術のいたちごっこが続いており、検査ツールひとつだけでフェイク動画を完全に消し去ることは非常に難しいのが現実です。

検知AIがチェックする4つの微小な体のサインと物理の痕跡

映像を細かく調べる鑑識モデルは、人間の肉眼では気づくことのできない、映像の中の細かな特徴をさまざまな角度から分析します。

  • 皮膚の血流から脈拍を測る技術(遠隔容積脈波 / rPPG):生身の人間の顔は、心臓の拍動に合わせて血液が毛細血管を巡るため、皮膚の赤みがごくわずかにリズミカルに変化します。AIが合成した偽の顔には、この規則正しい心拍のサインが存在しません。
  • 瞳に映り込む光(角膜の反射光 / ハイライト)の向きの一致:左右両方の黒目に映り込んでいる部屋の電灯や窓の明かりの位置、角度、形が、物理的に辻褄が合っているかを厳密に調べます。
  • 画像の波を分解して見つける特有の歪み(格子状のノイズ / アーティファクト):AIが画像の解像度を大きく引き伸ばす(アップスケーリング)際、画面の色の波に独特の格子模様のようなノイズが残るため、特殊な数学の手法(フーリエ変換)を使ってその跡をあぶり出します。
  • 声の響きと唇の動きのわずかなズレ:言葉の音(破裂音や摩擦音などの音素)が発声された瞬間のタイミングと、唇や舌が動くタイミングの間に生じる、1秒の何分の一というわずかなズレ(タイムラグ)を測定します。

SNSの動画圧縮が鑑識の手がかりを壊してしまう壁

研究室で保存されたデータが欠けていない高画質な動画であれば、検知AIは95パーセント以上の高い正確さで偽物を見分けることができます。しかし、現実の世界で偽動画がばら撒かれるのは、X(旧Twitter)、TikTok、YouTube、LINEなどのソーシャルメディアです。

これらのサービスは、通信回線の負担を減らして動画を素早く再生できるようにするため、投稿された動画を小さく縮める圧縮処理(不可逆な動画コーデック / H.264やAV1)を施します。この激しい圧縮によって、検知AIが手がかりにしていた皮膚の微小な血流の変化や細かなノイズのほとんどが塗りつぶされて消えてしまい、実際の現場では見破る精度が急激に落ちてしまうのです。

終わりのないいたちごっこと「本物を証明する共通規格」への転換

さらに構造的な問題として、偽動画を作る側の開発者は、検知ツールの判定基準を研究してそれを乗り越える新しい技術を作ってしまいます。血流のサインを調べる検知ツールができれば、次世代のAIは血流のサインまで偽造して動画を作るようになるためです。

このため、現在のセキュリティ専門家たちは「完成した動画を後から調べて偽物かどうか当てる」という受け身のやり方から、「動画を撮影したカメラの段階で暗号の署名を刻み込み、加工された履歴を誰も改ざんできない形で記録しておく仕組み(C2PA規格 / コンテンツ認証)」という、本物であることを最初から証明する仕組みづくりへと大きく舵を切っています。

ボタンひとつで100パーセント偽物を見破ってくれる「魔法の道具」は存在しません。衝撃的な動画に出会ったときは、自動判定ツールの結果を鵜呑みにせず、その動画がどこから発信されたのか、公式なニュース機関でも報じられているかを自分自身の目で確かめる慎重な習慣こそが、情報の波に呑まれないための何よりの盾となります。

参考資料
  1. Media Forensics (MediFor) and Semantic Forensics (SemaFor) ProgramDARPA
  2. Deepfake Detection: A Comprehensive Survey and Biological Signal BenchmarksIEEE
  3. Lessons from the Global Deepfake Detection Challenge and Future MitigationsPartnership on AI