ディープフェイクにだまされないために — AIでつくられた画像・動画・音声の見分け方と、だまされたときの対処法

有名人が言ってもいないことを話している動画。実際には起きていない事件の写真。家族の声そっくりの電話。AIを使ってつくられた、こうした本物そっくりの偽物は「ディープフェイク」と呼ばれます。

AIの進化で、ディープフェイクは誰でも簡単につくれるようになりました。アメリカでは中間選挙を前に、AI企業が偽情報への対策を強化していると報じられています。日本でも、有名人をかたった投資詐欺の広告などが問題になっています。

このコラムでは、ディープフェイクの見分け方と、だまされないための心がけ、もしだまされたときの対処法を詳しく紹介します。

ディープフェイクとは？

ディープフェイクとは、AIを使ってつくられた、本物そっくりの偽の画像・動画・音声のことです。「ディープラーニング（AIの学習方法）」と「フェイク（偽物）」を組み合わせた言葉です。

よくある被害のパターン

1. 有名人をかたった投資詐欺

有名人や専門家が「この投資で必ずもうかる」と話す偽の動画や広告で、投資話に誘い込む手口です。

2. 家族になりすました電話

AIで家族の声をまね、「事故を起こした」「すぐにお金が必要」と電話をかけてくる手口です。昔からある「オレオレ詐欺」が、AIでより巧妙になっています。

3. 上司や取引先になりすました送金の指示

会社の上司や取引先の声や顔をまねて、急ぎの送金を指示する手口です。海外では、ビデオ会議で複数の人になりすまして送金させる事件も報じられています。

4. 偽ニュース・デマ

災害や事件の偽の写真や動画が、SNSで拡散されるケースです。悪意がなくても、驚いてシェアしてしまうことで、デマが広がってしまいます。

5. 個人を傷つける偽の画像

身近な人の顔を使った偽の画像がつくられ、いじめや嫌がらせに使われるケースもあります。

見分けるためのチェックポイント

AIの性能が上がり、見た目だけで見分けるのは年々難しくなっています。それでも、次のようなポイントに注意すると、気づけることがあります。

画像

• 手や指：指の本数がおかしい、関節の向きが不自然
• 文字：看板や服の文字が読めない、ゆがんでいる
• 背景：建物や道がゆがんでいる、つじつまが合わない
• 光と影：光の向きと影の向きが合っていない
• 細かいもの：メガネやアクセサリーが左右で違う、髪の毛が背景に溶けている

動画

• まばたきや表情：まばたきが不自然、表情の変化がぎこちない
• 口の動き：話している言葉と口の動きが合っていない
• 顔のふち：顔と首や髪の境目がぼやける、ちらつく
• 動いたとき：顔を横に向けたときに、形がくずれる

音声

• 抑揚：声の調子が平坦で、感情がこもっていない
• 息つぎ：息つぎや間の取り方が不自然
• 雑音：背景の音が不自然に途切れる
• 話の内容：急がせる、お金の話をする、ほかの人に言わないように言う

ただし、見た目や声だけで見分けようとするのは限界があります。それよりも大切なのが、次に紹介する「確かめ方」です。

見た目よりも大切な「確かめ方」

1. 出どころを確認する

その画像や動画は、誰が、どこで最初に公開したものでしょうか。報道機関や公式アカウントが発表しているかを確認しましょう。出どころがわからない情報は、慎重に扱います。

2. 複数の情報源で確かめる

大きな出来事なら、複数の報道機関が伝えているはずです。ひとつのSNS投稿だけが情報源なら、要注意です。

3. 画像を検索してみる

画像検索を使うと、同じ画像が以前にも使われていないか、別の場面の写真ではないかを確かめられます。

4. AIで生成されたかの情報を確認する

最近は、AIでつくった画像や動画に「電子透かし」や「来歴情報」を付ける取り組みが進んでいます。

• SynthID：Googleが開発した、AIで生成したことを示す目に見えない印
• コンテンツクレデンシャル（C2PA）：画像や動画が、いつ、何を使ってつくられたかの情報を記録する仕組み

対応しているサービスやツールでは、こうした情報を確認できることがあります。ただし、すべてのAI画像に付いているわけではないので、「印がない＝本物」とは限りません。

5. 直接確認する

家族や上司からの、お金に関する急な連絡は、一度電話を切って、自分から知っている番号にかけ直すのが鉄則です。

家族で決めておきたい「合言葉」

声のなりすまし詐欺への対策として、家族だけの合言葉を決めておく方法があります。

1. 家族だけが知っている言葉を決める（例：初めて飼ったペットの名前など）
2. お金に関する急な電話があったら、合言葉を聞く
3. 答えられなかったら、一度電話を切って、本人に直接連絡する

合言葉は、SNSなどで調べられない内容にするのがポイントです。

SNSで気をつけたいこと

驚く情報ほど、すぐにシェアしない

ディープフェイクは、驚き、怒り、悲しみなど、強い感情をゆさぶるようにつくられていることが多いです。思わずシェアしたくなったときこそ、一呼吸おいて確かめましょう。

顔写真や声の公開は控えめに

SNSに公開した顔写真や動画、声は、ディープフェイクの材料に使われる可能性があります。公開範囲を限定するなど、公開する情報を見直すことも対策になります。

もしだまされたら・被害にあったら

お金をだまし取られた

• すぐに警察に相談する（緊急でない相談は、警察相談専用電話「#9110」）
• 振り込んだ場合は、すぐに振込先の金融機関に連絡する

自分の偽の画像や動画が出回った

• 投稿されたSNSやサイトの運営者に削除を依頼する
• 投稿の画面を保存して、証拠を残す
• 必要に応じて、警察や専門の相談窓口、弁護士に相談する

偽情報をシェアしてしまった

• 気づいたら、投稿を削除する
• 必要に応じて、「誤った情報でした」と訂正を投稿する

よくある質問

Q. AIで生成されたかを判定するツールは信頼できる？

判定ツールは参考になりますが、完璧ではありません。本物をAI生成と判定したり、その逆もあったりします。ツールだけに頼らず、出どころの確認と組み合わせましょう。

Q. 高齢の家族にはどう伝えればいい？

「AIで家族の声をまねた電話がある」という事実を伝え、合言葉を一緒に決めておくのがおすすめです。「お金の話の電話は、一度切って家族に確認する」というルールも効果的です。

Q. 自分の写真がディープフェイクに使われないか心配

完全に防ぐことは難しいですが、SNSの公開範囲を見直す、高画質の顔写真を不特定多数に公開しないといった対策で、リスクを減らすことができます。

まとめ

ディープフェイクは、AIが身近になったことで、誰にとっても身近な問題になりました。

• 見た目や声だけで見分けるのは、年々難しくなっている
• 大切なのは「出どころの確認」と「直接の確認」
• 家族で合言葉を決め、お金の話は一度切ってかけ直す
• 驚く情報ほど、すぐにシェアしない

「本当かな？」と立ち止まる習慣が、自分と大切な人を守る一番の方法です。AIの答えを確かめる方法については、コラム「AIの答えをうのみにしない「疑う技術」」もあわせて読んでみてください。