偽情報を故意に流す「ディスインフォメーション」が、SNSの信頼を脅かす

　国や企業、組織の信用を落とす目的でメディアなどへ故意に偽情報を流す"ディスインフォメーション"は、古くから情報戦略として利用されてきた。

　今ではソーシャルメディアの普及でフェイクニュースが簡単に拡散されるようになり、真偽不明の情報で社会不安をあおることでパニックを誘発し、社会経済や日常生活にダメージを与える「インフォデミック」を引き起こす極めて重要な問題として世界で対応策が議論されている。

　米国防総省の機関である国防高等研究計画局（DARPA）も早くから問題に着目している。「ソーシャルメディア戦略的コミュニケーションプログラム（Social Media in Strategic Communication（以下、SMISC）」を設立し、深刻化するディスインフォメーションの問題に取り組んでいる。

　そのSMISCの元スタッフを講師に招いてディスインフォメーションを解説する「ソーシャルメディアに広がる『ディスインフォメーション』～世界に見る情報戦略の動き～」が、2月13日に神戸で開催された。ここではその内容を紹介する。

ディスインフォメーションについて解説するイベントが神戸で開催され、駐大阪・神戸米国総領事館のアリシア・エドワーズ関西アメリカンセンター館長から主催した理由が説明された。

米国では戦場のねつ造がきっかけで対策が進む

　本イベントを主催した駐大阪・神戸米国総領事館関西アメリカンセンター館長のアリシア・エドワーズ氏によると「米国と日本の間では自由で公正で安全なサイバースペースを創造するために様々なサイバーセキュリティの課題を改善する対話を行っており、デジタルメディアの質を上げるのに役立つ情報を共有し、両国の足並みを揃える機会を以前から設けてきた」と言う。

　今回はソーシャルメディアのテクノロジーによって政府や社会が混乱をきたし、ディスインフォメーションに翻弄されていることに対してどのような対策が行われているかを伝えたいと話す。

　講師のマイケル・シェ氏はSMISCの元プログラムマネージャーで、現在は米シンクタンク民主主義防衛財団（FDD）のサイバー技術革新研究所（Transformative Cyber Innovation Lab）で常任理事を務めている。

　専門は技術とリサーチを用いたソーシャルメディアのディスインフォメーション対策で、SMISC時代はビッグデータ解析やAI技術などを用いた科学技術的な対策を研究していた。

講師のマイケル・シェ氏は技術とリサーチを用いたソーシャルメディアのディスインフォメーション対策を専門としている。

　「米国でのソーシャルメディアにおけるディスインフォメーションの研究は、イラクとアフガニスタンとの戦争によって対応が進められました。中でも大きなきっかけになったのが、2004年にバクダッドのサドルシティで勃発した米国軍とイラク武装勢力との武力衝突事件です。

　3月に米国陸軍特殊部隊がイラクのマフディ軍から捕虜を奪回する作戦を成功させた際、武器をもたない市民を米軍が虐殺したという映像が基地に帰還するわずか1時間ほどでねつ造され、ウェブを通じて拡散されたのです。

　当時はディスインフォメーションへの対策が無かったため、国防総省は調査のために特殊部隊の戦闘を30日間禁止せざるをえず、戦場では勝利したけれどソーシャルメディアでの闘いには負けてしまったのです。」

　DARPAが対応策を検討しはじめてからSMICSが承認されたのは2010年で、米軍がイラクからほぼ撤退する1年前だったという。

　「当時から今ではディスインフォメーションを取り巻く状況は大きく異なり、例えば2014年頃からAIでフェイク画像を瞬時に生成するGANs（Generative Adversarial Networks＝敵対的生成ネットワーク）が登場し、ディープフェイクが可能になりました」とシェ氏は説明する。

　事例として見せた政治家のフェイク画像と本物は、ほとんど見分けがつかない。こうした技術はさらに進化し、動画や声までねつ造できるようになっている。

世界でディスインフォメーションがどのように行われているか具体的な事例を元に紹介された。

人力とAIの合わせ技で効果をあげる中国

　続いて中国のディスインフォメーション対策について紹介された。米国とは異なり主な対象は自国内のソーシャルメディアである。

　「中国では政治に対する扇情的な書き込みは反社会的で違法とされ、禁止トピックや用語のブラックリストは随時更新され、新型コロナウィルスもリストアップされています。ウェブ警察やインターネット調査官と呼ばれる人たちが発言を見張り、SNS運営企業は検閲官をフルタイムで雇うことが法律で決められている。

　大手ネットサービスのBaiduだけでも日に200万を越える投稿があるため、人力に加えてAIの自然言語処理技術やその他のツールを使用しています。」

技術的な対策についてもスライドを使って簡単に解説された

　そこで市民は漢字の表記をへんとつくりに分けて検索しにくくしたり、固有名詞はニックネームを使うなど様々なアイデアで対応している。企業もユーザーの利害が対立しないよう対策を考えている。

　だが、通常はある程度お目こぼしをしつつ、大衆の騒動が起きやすい時期は厳しく取り締まるというように運用が巧妙で、人と技術の合わせ技による検閲は今のところ非常に有効に機能しているという。

漢字を分割して検索を回避する方法は日本でもよく見られるが、それさえも検索する技術が開発されている。

長期的な対策にはリテラシー教育が不可欠

　世界ではディスインフォメーションによる選挙への影響が問題になっている。米国では2016年の大統領選でロシアのファンドから資金援助を受けた民間企業がFacebookを使って警察官と黒人が衝突するよう情報操作をする事件があった。

　同じような問題はヨーロッパやアジアでも起きているが、悪意のあるプロパガンダや犯罪性が高いと思われる投稿でも言論の自由があるため、違法性を追求するのはなかなか難しいという。

　明確な情報操作を狙ったとはいえないソーシャルメディア上のデマも大きな問題になっている。

　例えばインドでは施設から放射能が漏れたという偽情報が流され、そこへヨウソを含む塩に予防効果があるというデマが広がって塩が手に入らなくなる問題が起きた。日本でも新型コロナウィルスで不足するマスクとトイレットペーパーは同じ中国で生産しているという間違った情報から、店頭で品不足になるという問題が起きたばかりだ。

　「こうした状況に対し、フェイクを見抜くツールや情報源をたどるシステムなどが開発されています。さらに情報学や心理学、社会学といった様々な専門家からの協力を得て、あらゆる方向から対策を考えている」とシェ氏。

　「米国と中国は対策に向けて投資する資金も人材もあるので、そこで開発された対策やルールが事実上の世界基準として他の国にも導入されるようになるのではないか」とも話す。

　最後にシェ氏は「ディスインフォメーション対策は技術を使ってある程度効果を出せるところもあるが、長期的ソリューションとしてはやはり教育しかありません。情報リテラシーはもとより、歴史やモラルについてきちんと学校で教えることが最も大事です」と言い、機会があればまた今回のような情報共有の機会を持ちたいと話していた。