シェアする前にひと呼吸！ ガザ地区で子どもを抱えて避難する男性のフェイク画像が拡散

　10月下旬、イスラエル軍の攻撃を受けたパレスチナ・ガザ地区の街を5人の小さな子どもを連れた男性が避難する画像がX（旧Twitter）で拡散されました。どの投稿も大量にリポストされており、「百聞は一見にしかず」「地上で最も親になるにはきつい場所」「攻撃をやめろ！」といったコメントが付いています。

　いくつかの投稿には、第三者が背景情報などを追加できる「コミュニティノート」が付けられており、この画像が生成AIで作られたフェイクであることを指摘しています。画像をよく見ると不自然な箇所がいくつかあります。フェイク画像であることを検証する報道もありました。

　ガザの悲惨さをアピールするためにパレスチナ側が作ったのか、フェイクを混ぜて信用度を落とすためにイスラエル側が作ったのか、それとも誰かの悪意あるいたずらなのか分かりませんが、大量に拡散させることが目的であれば、それは達成されてしまっています。

　ガザ側に感情移入している人の場合、この手の画像を見ると、ショックを受け、フェイクかどうかの判断なしにリポストしてしまうことがあります。フェイク画像であれば、その善意は逆効果になってしまいます。

高度なフェイク画像が誰でも生成可能に

　昨年から注目されている画像生成AIの劇的な進化により、素人でも簡単にフェイク画像を作れるようになりました。一見するだけでは写真と見分けがつかないレベルに来ています。

　試しに、ChatGPTに「廃墟の中、3人の子どもを抱いて、避難する埃だらけの男性の画像」と入力すると瞬時にそれっぽい画像が生成されます。プロンプトをチューニングしていけば、もっとリアルな写真を生成することができるでしょう。

　なお、筆者の調査の間にも、ガザ関連のフェイク画像と思われる投稿を複数確認できました。他のパターンも広まっているようです。そちらも多数シェアされ、悲嘆的もしくは攻撃的なコメントが付いていました。

ChatGPTで感情を揺さぶる画像を簡単に生成できてしまいます

日本では静岡県で起きた災害に便乗したフェイク画像が拡散

　日本でも2022年、静岡県で起きた台風の被害について、フェイク画像が投稿されました。投稿者によると、画像生成AI「Stable Diffusion」を使い、「flood damage」「Shizuoka」というキーワードで作成したそうです。SNSへの投稿について「大した目的はない」と説明していますが、ニュースに取り上げられるなど物議を醸しました。

筆者がStable Diffusionに「Japan、flood damage、aerial images」とプロンプトを入れて出力した画像の例

　この投稿も、生成AIの画像だと怪しむ人もいたものの、甚大な被害に心を痛める人が多く、数千件もリポストされていました

　現在のところ、生成AIの画像は専門家が見れば判別がつきます。人物であれば指や歯、目などをチェックしたり、風景であれば木々や建物、地形などを見るとリアルでないことが分かります。しかし、自分の考えていることや想定しているものと同じ方向性の内容であれば、信じ込みやすく、なかなかファクトチェックをしようとは思いません。

　しかし、生成AIを誰でも簡単に利用できるようになったため、SNSでこのようなフェイク画像を目にする機会も増えることでしょう。ショックを受けてシェアしようと思う前にひと呼吸入れて、事実かどうか確認するようにしましょう。フェイク情報の拡散に加担するのはNGです。人に知ってもらおうという行動が自分の信用を毀損してしまいます。

　また、生成AIの性能はさらに向上し、さらにフェイクを見抜きにくくなるでしょう。そうなると、画像をじっと見る以外の、多角的なファクトチェックが必要になるでしょう。

　社会的にインパクトがあり、賛否両論あるような内容の画像がフェイクだった場合、シェアしたときのダメージはとても大きくなります。

　繰り返しになりますが、SNSの投稿をシェアする際は、まずはひと呼吸置いて、本当のことなのか、フェイクではないのか、そもそもその投稿を自分がシェアしなければならないのかをもう一度考えてみてください。フェイク情報の拡散は百害あって一利なし、です。デジタルリテラシーを身に付け、SNSを賢く活用するようにしましょう。

NPO法人DLIS（デジタルリテラシー向上機構）

高齢者のデジタルリテラシー向上を支援するNPO法人です。媒体への寄稿をはじめ高齢者向けの施設や団体への情報提供、講演などを行っています。もし活動に興味を持っていただけたり、協力していただけそうな方は、「dlisjapan@gmail.com」までご連絡いただければ、最新情報をお送りするようにします。

※ネット詐欺に関する問い合わせが増えています。万が一ネット詐欺に遭ってしまった場合、まずは以下の記事を参考に対処してください
参考：ネット詐欺の被害に遭ってしまったときにやること、やってはいけないこと