まるで本人、ネット詐欺の「ディープフェイク」技術が向上して見分けるのが難しいレベルに

　AIと機械学習を使用して画像・動画加工などを行う「ディープフェイク」の技術が格段に向上し、特定人物に似た写真や動画、音声まで生成できるようになりました。2年前までは知識がなければ利用することが難しかったのですが、昨年からは無料サービスで誰でも使えるようになり、ネット詐欺に悪用されるケースも増えています。

　例えば、ニュースサイトの「日テレNEWS NNN」では、日本テレビのアナウンサーや岸田首相のディープフェイク動画で投資を呼び掛ける詐欺広告の動画について報じました。本人の声をAIに学習させて任意の文章を読み上げさせており、広告をクリックすると投資詐欺サイトに誘導されます。日本語の音声クローンAIはまだ高品質ではないので少々不自然なのですが、音量を小さくしている場合には気付きづらいかもしれません。

　この手の詐欺に引っ掛からないためには、怪しい広告はクリックしないことが重要で、「必ず儲かる」と謳う投資詐欺は無視するのが鉄則です。また、映像が本物かどうかで判断するのは避けましょう。ディープフェイクの音声・映像はもはや見分けがつかないレベルになっているのです。

ビジネスメール詐欺からビデオ会議に誘導、約38億円の被害が発生したケース

　ニュースサイト「CNN.co.jp」では、多国籍企業の香港支店の従業員が、ビジネスメール詐欺に遭い、2億香港ドル（約38億円）を失ったことを2月5日に報じました。この詐欺に、ディープフェイクが利用されたのです。

　従業員に機密の取引のための会議を行う、というメールが届きました。内容が怪しかったので、従業員はフィッシングメールだと当初は疑っていたそうです。しかし、ビデオ会議に参加すると、英国を拠点とする会社の最高財務責任者（CFO）のほか、複数の同僚がいたのです。全員が本物に見え、声も本物に聞こえたので、信じてしまったそうです。

　そして、偽CFOの指示に従い、合計2億香港ドルを送金してしまったのです。だまされた従業員が本社に連絡した際に、詐欺に遭っていることが判明しました。犯人はネット上で公開されている動画や写真を素材としてディープフェイクの映像を作った可能性があります。従来は1対1で詐欺を仕掛けることが多かったのですが、AIを利用することで、複数人で参加するビデオ会議そのものも偽装することができるようになりました。

ビデオ会議の相手は全員ディープフェイクでした。画面はMidjourneyで作成

　リアルタイムにAIが生成している動画かどうかを確認するには、横を向いてもらうというテクニックがあります。あらかじめ用意しておかない限り、横を向くと生成映像が破綻するためです。とはいえ、技術が進化すれば、この対策は効果的でなくなるでしょう。

　確実なのは、ビデオ会議の後に、リアルでの対面や電話で確認を取ることです。手間は増えますが、多額の被害に遭うよりはましです。いつもと異なる業務内容の場合、より慎重に確認する必要があります。企業側もどんな詐欺が発生する可能性があるか、社員に周知させておく必要があります。事例さえ知っておけば、被害を回避できる可能性が高まります。

　誰もがネット詐欺の被害者になる可能性があります。デジタルリテラシーを高め、自己防衛してください。

NPO法人DLIS（デジタルリテラシー向上機構）

高齢者のデジタルリテラシー向上を支援するNPO法人です。媒体への寄稿をはじめ高齢者向けの施設や団体への情報提供、講演などを行っています。もし活動に興味を持っていただけたり、協力していただけそうな方は、「dlisjapan@gmail.com」までご連絡いただければ、最新情報をお送りするようにします。

※ネット詐欺に関する問い合わせが増えています。万が一ネット詐欺に遭ってしまった場合、まずは以下の記事を参考に対処してください
参考：ネット詐欺の被害に遭ってしまったときにやること、やってはいけないこと