見抜くのは困難！？　まるで本人のように見える「ディープフェイク動画」悪用で冗談では済まされない事態に

　画像を編集し、人の顔を差し替えるといった合成写真はみなさんご存じでしょう。昔からあるいたずらですが、現在は動画の合成も可能になっています。AIを利用して人の顔を差し替える「ディープフェイク」という技術です。

　深層学習という意味の「ディープラーニング」と、偽物という意味の「フェイク」を組み合わせた造語で、一般的には既存の動画に写っている人の顔を差し替えたり、口元の動きを編集します。

　2017年ごろからディープフェイク動画は広まっていたのですが、注目を集めたのは2018年、米国のオバマ元大統領がトランプ元大統領について暴言を吐く動画です。これは、ディープフェイクのリスクを啓蒙するために作られたようですが、あまりの精巧さに本人が言っているようにしか見えないほどです。

別の人の口の動きなどをオバマ大統領の顔で再現しています（YouTubeの動画よりキャプチャー）

　2019年にはFacebook創設者のマーク・ザッカーバーグ氏が、人々の秘密や生活のデータをコントロールする人が未来をコントロールできる、と恐ろしいことを言っている動画がInstagramで公開されました。これももちろんディープフェイクです。イギリスで開催されたイベント向けにアーティストが制作したものです。

Instagramでもザッカーバーグ氏のディープフェイク動画が公開されました

　ディープフェイクほどの技術は使わなくても、悪意のあるフェイク動画を作り、問題になった例もあります。例えば、米民主党の下院議長であるナンシー・ペロシ氏が酔っ払って話しているように仕立てたケースがありました。

　もちろん、編集が加えられる前のペロシ氏はきちんと話しています。拡散されたフェイク動画は再生速度を落とし、声の高さを調整しただけなので、「チープフェイク」とも呼ばれています。とはいえ、何百万回も再生され、物議を醸しました。現在、元動画は削除されています。

ワシントンポストでは元動画とフェイク動画の検証動画を公開しています

　ちなみに、ネット上に出回っているディープフェイク動画の多くはポルノ動画です。女性芸能人とアダルトビデオを合成する動画を作って公開しているのです。有料サイトにアップロードすることでお金を稼ぐ目的のケースもあれば、インターネットで評価されたいということからアップロードする犯人もいるようです。

　ディープフェイク動画の公開はもちろん違法です。2020年10月には警視庁や千葉県警、京都府警などがディープフェイク動画を公開した複数の犯人を逮捕しています。容疑は著作権法違反や名誉毀損です。警視庁が確認しただけでも、女性芸能人200人分、3500本以上のディープフェイク動画が公開されていたそうです。

　音声もディープフェイクで作り出すことができます。2019年3月、イギリスのエネルギー会社で働いていたマネージングディレクターの元に、ドイツにある親会社の最高経営責任者（CEO）から電話がかかってきました。

　延滞金を節約するためにハンガリーの口座に22万ユーロ（約2600万円）を送金するように指示されました。そして、電話を続けながら、詳細な情報をメールで送ってきたのです。CEO本人の声ですし、文章の区切り方やドイツ語のアクセントもいつも通りです。指示に従って送金しました。これが世界初となるAIのディープフェイク音声を利用したオレオレ詐欺です。

　現在は、フェイク動画などを検出するAIが登場しています。しかし、自分が出会ってしまったなら、自分で判断するしかありません。今回紹介したように、写真だけでなく音声や動画も高度な技術で偽造されるような時代になりました。動画だから間違いない、といったリテラシーはアップデートする必要があります。

　ディープフェイクの技術が進歩すれば、人の目で見破ることはさらに困難になるでしょう。いたずらや小遣い稼ぎにとどまらず、選挙の情勢に影響を与えたり国家間の関係を揺るがすような使い方も考えられます。

　怪しい情報源からの衝撃的な情報に触れた時に反射的に拡散するのはNGです。まずは落ち着いて、ファクトチェックをしてください。別の情報源でも同じことを言っているかどうかを確認するのです。可能な限り、大手メディアの情報を検索しましょう。それが自分の地位や人生を守ることに繋がります。

NPO法人DLIS（デジタルリテラシー向上機構）

高齢者のデジタルリテラシー向上を支援するNPO法人です。媒体への寄稿をはじめ高齢者向けの施設や団体への情報提供、講演などを行っています。もし活動に興味を持っていただけたり、協力していただけそうな方は、「dlisjapan@gmail.com」までご連絡いただければ、最新情報をお送りするようにします。