ニュース
“フェイク画像”を来歴情報により対策―アドビ、「コンテンツ認証イニシアチブ（CAI）」の取り組みを説明
2023年7月20日 06:00
アドビは、同社が主体となって運営している「コンテンツ認証イニシアチブ（CAI：Content Authenticity Initiative）」の活動に関するメディア向け説明会を行い、日本のメディア各社にCAIへの参加を訴えた。
CAIは、オンラインコンテンツ（主に画像）の信頼性と透明性を高め、報道機関が信頼のある報道写真を使用することなどを支援する枠組みで、誤報や偽情報に対抗することを目的に活動している。具体的には、デジタルコンテンツの来歴を記録し、信頼のおけるコンテンツを生成、利用できるようにする。生成AIの広がりによってフェイク画像の増加が指摘されるなかで、誤った画像を報道で使用することがない環境を作ることを目指すとしている。
2019年から活動を開始しており、BBCやThe New York Times、The Washington Postなどの海外大手メディアのほか、テクノロジー企業やハードウェアメーカー、ソフトウェアメーカーなど、全世界55カ国から1500社以上の企業、団体が加盟している。だが、日本の報道機関の加盟が進んでいないのが現状であり、今回の説明会の開催に至ったという。
情報の信憑性を確保するため、情報の来歴を確認できることが重要
今回、説明を行ったのは、長年にわたるフォトジャーナリストとしての経験を持つ米アドビのサンティアゴ・ライオン（Santiago Lyon）氏（Head of CAI Advocacy and Education）。はじめに氏は、現在の報道や情報流通を取り巻く状況におけるCAIの位置づけを説明した。
情報がさまざまなデジタルデバイスやソーシャルメディアなどを通じて手軽に閲覧できるようになる一方で、情報の信憑性を確認することが難しくなっている。また、生成AIやツールの登場によって、さまざまな画像が容易に生み出されたり、合成が簡単になったりしているとして、氏は「元の画像がどこにあるのか、いつ生成されたのか、どんな画像編集プロセスを経ているのかといった来歴をトラックし、その情報を消費者に提供することが重要であり、そのための活動を起こっているのがCAIになる」と語った。
生成から閲覧まで、ライフサイクル全体にわたる取り組み
CAIが提案する仕組みは、コンテンツ（画像）の生成（撮影）、編集、公開、共有、閲覧といったライフサイクル全体にわたるものだ。
ハードウェアメーカーと連携することで、スマートフォンやデジタルカメラをCAIに対応。撮影時点で撮影情報を付加する。ほか、編集時点では、ソフトウェアメーカーなどとの連携により、編集ツールにCAIを導入し、修正情報を付加する。すでにアドビでは、Adobe PhotoshopなどにCAIを採用しているという。
また、公開（出版）時点ではパブリッシングシステムとの連携により、プラットフォーム全体でCAIのメタデータを提供。配信されたり、デバイスなどに表示されたりしたコンテンツは、ユーザー自身が簡単に来歴情報を確認できるようになる。コンテンツのライフサイクルが進展するに従い、情報が付与され、蓄積された来歴情報によって、加工がされていない正しい情報であることや、AIによって生成されたものではないことが理解できる仕組みになる。もし、加工された情報である場合には、それを注意する情報も付加できる。
もし途中でデータが改ざんされた場合には、特殊な方法で結びつけられたメタデータとファイルが合致しないため、来歴情報が表示されず、エラーメッセージが出るという。厳密に管理したい場合には、必要に応じてブロックチェーン技術などを活用することも可能だという。
C2PAで決定した規格をカメラや加工アプリ、生成AIなどが採用
CAIでは、標準化団体であるC2PA（Coalition for Content Provenance and Authenticity）で決定した規格を利用し、これを参加各社が採用していくことになる。C2PAは、Linux Foundation内に設置されており、アドビやマイクロソフト、インテル、ソニーなどが参加。オープンソースとして提供しており、2022年1月には、C2PA仕様v1.0がリリースされている。「役割分担を比喩すると、C2PAが建物の設計図を描き、CAIが材料を確保し、建設を行うというような形になる。現在、C2PA仕様v1.0をもとに、メーカー各社がC2PA対応に取り組んでいる段階にある」という。
デジタルカメラでは、ライカとニコンがプロトタイプにCAIを搭載。2023年末から2024年初頭にはセキュアキャプチャーカメラとして製品化される可能性を示唆した。また、キヤノンでもCAI対応に取り組んでいるほか、ソニーや富士フイルムも対応を検討しているという。さらに、スマートフォンについてライオン氏は「全すべてのメーカーと話をしており、2024年にはCAI対応のスマホが出ると予測している」として、期待を示した。
アドビでは、Adobe Photoshopのほか、β版として提供している生成AIのAdobe Fireflyでも、CAIに対応している。アドビの西山正一氏（CDO）は、これについて「Adobe Fireflyは商業利用に特化した画像生成を念頭におき、設計されたものであり、生成した画像にはCAIのタグ情報が埋め込まれる。災害の画像を作成し、SNSで拡散した場合でも、認証情報にアクセスすれば、一目でAdobe Fireflyで作ったことがわかるようになっている。偽情報対策を図ったツールになる」と説明した。
ウェブブラウザーや各種アプリ、SNSとの連携も推進
また、コンテンツには、来歴情報を確認するためのアイコンを用意するなどの仕組みを想定している。この実装については、ウェブブラウザーや各種アプリの開発者との連携も進めるという。
さらに、TwitterやMetaといったSNS企業との連携にも言及。現状では参加が遅れているが、「最近まで、Metaはメタバースにフォーカスしていたが、いまは生成AIに注目するなど、環境の変化がある。現在対話を進めており、まもなく参加してもらえると考えている」とした。
なお、Googleでは「About this image」という来歴情報を確認するサービスをリリースしているが、これについては「GoogleではIPTC標準を利用しているため、改ざんが容易であり、セキュアではない」と説明、Googleと協力して、CAIを実装していくことが有用であるとした。
「日本も対岸の火事ではない」
西山氏は、最近のフェイク画像の動向などについても言及した。「偽情報は、政治や選挙などのプロバガンダにも利用されており、偽のニュースキャスターを作成し、本当の報道に見せかけるといったことも起きている。日本も対岸の火事ではなく、2022年9月には、インターネット上で公開されている水害の写真を使って、Twitterで偽情報が拡散されたケースがあった。仮に、こうした偽情報がメディアに取り上げられると、大きな混乱を巻き起こしたり、深刻な被害につながったりするリスクがある。生成AIを使えば、『サンフランシスコの金門橋が、火事になっている映像』と打ち込むだけで、すぐに画像が出来上がってしまう。偽情報対策は待ったなしの状況である」という。
偽情報対策の方法では、画像解析を行い、フェイク画像であることを検出するファクトチェックのテクノロジーもある。しかし、時間とコストがかかるため、偽情報の広がりに追いつかなかったり、偽情報の巧妙さが進化することで、終わりなき戦いになったりするのが現状だと、西山氏は指摘する。
CAIでは、来歴情報によって、その画像が「いつ、だれによって作られ、どういう経緯で目の前に表示されているのか」を明確化できる。それにより、画像が正しく、信頼できるものであることを示せると、優位性を説明した。
米国の「Rolling Stone」では、ボスニア紛争の記事に使用した写真が、CAIによる来歴情報を保持したかたちでパブリッシュされ、のちに閲覧した人が、これが正しい情報があることを理解した上で記事を読むことができたという。
また、EUでは、偽情報対策として、来歴情報を確認することを推奨。米カリフォルニア州議会民主党議員連盟では、配信した情報に使用している記事や画像にCAIを埋め込んでおり、情報の信頼性を示しているという。
オープンソースである意義を強調し、参加を呼び掛け
日本の政府においても、ファクトチェックを通じた偽情報対策に加えて、CAIの来歴情報による対策に関心を寄せていると、西山氏は説明。AIの活用においても、偽情報対策としてCAIの活用に向けた議論が始まっているという。
災害情報や政府が発信する情報に、偽情報が入らないようにし、入ってきたとしても、偽情報であることを確認できる仕組みが必要とする西山氏は、「CAIは健全な社会を作るために必要な技術であり、偽情報に対抗するための社会的な試みといえる。そのためには、透明性を確保するためにオープンソースとして提供していくことも大切である」と、オープンソースであることの意義を強調した。
政府だけでなく、民間企業も技術対応を通じて、コンテンツを使用できる仕組みを用意することが大切であると、西山氏は最後に説明。情報の信憑性を確保する枠組みとしてCAIが最適であることをあらためて説くとともに、幅広い参加を呼び掛けた。