Twitterがディープフェイク対策、改ざんされた悪質なコンテンツにラベル付け、警告や削除も

　Twitterは、利用者に危害をもたらす恐れのある“合成または操作されたコンテンツ”を含むツイートへのラベル付けなどを3月5日から実施することを明らかにした。AIや機械学習を使用して画像・動画加工などを行う“ディープフェイク”などへの対策を目的にしたものだ。

　Twitterで共有されるコンテンツが大幅に改ざんされていたり、捏造されている場合は該当するツイートにラベル付けをしたり、利用者がリツイートや“いいね”を押す前に警告を表示する。また、これらのコンテンツがTwitter上で表示されたり、「おすすめ」に上がらないようにする。

　ラベル付けや削除の対象となるツイートやメディア（動画、音声、画像）を判断する基準として、以下の3点を挙げている。

• 利用者を欺くことを意図して、大幅に改ざんまたは捏造されているか
• 利用者を欺くことを意図して共有されているか
• 公共の安全に影響を及ぼしたり、深刻な損害をもたらす可能性が高いか

　投稿されたメディアを審査する際には、1）コンポジション、シーケンス、タイミング、フレーミングが根本的に変わる方法で、コンテンツが大幅に編集されていないか、2）視覚または聴覚情報（新しいビデオフレームの追加、音声の重ね録り、字幕の改ざんなど）が追加または削除されていないか、3）実在の人物を描写しているメディアが捏造または偽装されていないかを見て判断する。

　なお、写真のレタッチやビデオの色調整など、「意味の根本的な改ざんには当たらない編集が行われたメディア」に関してはラベル付けなどの措置を取ることはないと説明している。

　Twitterでは利用者からのフィードバックや市民団体、学術研究者などと意見交換を行いながら、誤解を招く改ざんされたコンテンツへの対策を検討し、その結果を今回の取り組みに反映させたという。

　同社が行った調査では、利用者の70％以上が誤解を招くコンテンツに対し「何の手段も講じないことは容認できない」と回答。ラベル付けについては9割が「容認できる」と回答している。一方、該当するコンテンツを全て削除することについては反対の意見も出ている。

　Twitterは今回の取り組みについて、「これは私たちにとっても挑戦であり、これらを実施するうえで間違いが起こることもありえますが、根気よくお付き合いいただけると幸いです」とコメントしている。