釣られる人続出！ SNSにあふれかえるフェイク画像・動画に踊らされないように要注意

　1月7日に中国・チベット自治区で発生した地震で大きな被害が発生しました。そんな中、AIで作成したフェイク動画が問題になっています。

　以前から、何か大きなニュースがあると、フェイク画像が出回ることがありました。例えば、日本でも2022年の台風15号の被害が発生した際、街が水没するフェイク画像がTwitterで拡散され、問題になりました。最近では画像だけでなくフェイク動画も増えており、今回の地震のケースでもフェイク動画が出回りました。

　報道によると、SNSで拡散されていた、子供ががれきの下に埋もれていたり、崩壊した建物から赤ちゃんが救出されるといった動画が実はフェイクだったそうです。SNSや動画配信プラットフォームで再生数を稼ぐのが目的と考えられており、当然、中国でも批判が集まっています。

　動画生成AIの性能は急激に向上しており、数秒の動画であれば誰でも手軽に作ることができます。元となる画像をアップロードすれば、その画像が魔法のように動き出すのです。本誌連載でも以前から警告している通り、フェイク画像やフェイク動画を作るハードルがどんどん下がっており、もはや本物とほぼ見分けのつかない映像を誰でも作ることができるのです。

　試しに、筆者の自撮り写真を学習させた画像生成AIに「消防隊の格好をした筆者ががれきの山から子供を救出している様子」と入力すれば、写真のようにリアルな画像があっという間に生成されます。プロンプトにこだわれば、もっとリアリティを高められるでしょう。

　こうした画像を動画生成AIにアップロードし、動きを付けることができるのです。とはいえ、OpenAIの動画生成AI「Sora」でレスキュー時の動画を作ろうとしたら、ポリシー違反となり生成できませんでした。おそらく、フェイク動画で使われがちな災害時の映像を生成できなくしているのだと思います。しかし、全ての動画生成AIでそうした制限をかけているわけではないようです。

筆者の自撮り写真をもとに、AIで生成した架空の画像です。自分で作ったフェイク画像なのに、見ていると、過去に自分が消防士をしていて子供を救出したことがあったような気がしてくるほどリアルです

上の画像をもとに、動画生成AI「Kling」の無料アカウントで生成した動画です。数秒の短い動画ですが、動きが付いたことで、ますますリアルに見えてきます

　自分の顔写真をもとにしたフェイク動画と同様、他人、例えば有名人の顔写真をもとにしたフェイク動画も、簡単に作れてしまいます。もちろん権利侵害ではありますが、悪意を持つ人がそのようなことを気にするわけもなく、有名人が犯罪行為をしたり、ひどい目に遭ったりしている動画も生成できてしまいます。

　このようなフェイク動画を目にすると、感情が揺さぶられ、とっさに反応してしまいそうになります。当然、フェイク動画を拡散させている人の狙いもそこにあります。注目を集め、再生数やいいね数を稼ごうとしているのです。いったん落ち着いて、本物かどうか見極めてからアクションを起こすことをお勧めします。フェイク動画をシェアして拡散を手助けしているのを友人・知人に見られたら大恥をかいてしまうということもあります。怪しい場合は反応せずに、スルーしましょう。

　フェイク画像やフェイク動画は、災害だけに限ったことではありません。例えば、野菜で作った人形や何らかの動物に見える雲など、本当にあったら驚きの映像を生成AIで作り、SNSでシェアしている人がたくさんいます。驚きのコメントが多数付いており、一定割合で「この画像はAIですよ！」などと書き込まれているのですが、どちらもフェイク映像制作者のインプレッション増加などに貢献する「養分」となってしまっています。余計なことをする必要はないので、スルーしましょう。目にしたくないなら、その種の投稿をミュートすればいいのです。

　こうしたフェイクのクオリティは向上し続けており、フェイク映像を見破るツールも登場しますが、おそらくいたちごっこが続くでしょう。今後、AIの生成物にデジタル透かしを入れることを義務付けるなど、AI生成物を明確に区別できるようにする制度などができるかもしれませんが、それはまだまだ先のことになりそうです。それまでは、自分でネットリテラシーを身に付け、大人として恥ずかしい行動をしないようにするしかありません。感情を揺さぶる、分かりやすく「エモい」画像や動画を目にしたら、何か行動する前にまず気持ちを落ち着け、それがフェイクでないか、自分が反応するのが適当かを考えるようにしてください

NPO法人DLIS（デジタルリテラシー向上機構）

高齢者のデジタルリテラシー向上を支援するNPO法人です。媒体への寄稿をはじめ高齢者向けの施設や団体への情報提供、講演などを行っています。もし活動に興味を持っていただけたり、協力していただけそうな方は、「dlisjapan@gmail.com」までご連絡いただければ、最新情報をお送りするようにします。

※ネット詐欺に関する問い合わせが増えています。万が一ネット詐欺に遭ってしまった場合、まずは以下の記事を参考に対処してください
参考：ネット詐欺の被害に遭ってしまったときにやること、やってはいけないこと