AI生成による「なりすまし電話」を検知、NTT東とNABLASがシステムを開発し、自治体と実証実験

　NTT東日本株式会社とAIスタートアップのNABLAS株式会社は8月25日、「電話音声フェイク検知および自治体向け偽・誤情報総合対策の開発・実証」を開始した。

　近年、生成AIを悪用したフェイク音声を用いた「なりすまし電話」の発生が国内外で深刻な社会問題となっている。生成AIによるフェイク音声は従来の詐欺手法よりも巧妙かつリアルで、気づかずにだまされてしまうケースが急増しているという。

　両社は、電話音声環境下におけるフェイク音声検知と自治体向けに偽・誤情報の拡散を防ぐシステムの開発に取り組んでいる。今回の実証実験の実施内容は、次の2つがある。

　1つ目は「電話音声フェイク検知技術の開発・実証」。最新の音声合成技術に対応した電話音声フェイク検知技術を開発し、電話アプリに組み込み、実際の電話サービス上の動作を実証実験する。

　この技術は、音声形式や品質が変化する電話音声環境下においても、安定した検知精度を維持できるものとなる。実証では、生成AIによって合成された音声を流し、電話アプリがフェイクとして検知できるかを、さまざまな条件下で検証する。

電話音声フェイク検知技術の開発・実証のイメージ

　2つ目は「自治体向け偽・誤情報総合対策の開発・実証」。信頼できる投稿者であることを確認可能なDID/VC（Decentralized Identifier/Verifiable Credential：作成者および本人の証明）技術と偽画像・偽映像を検知するフェイク検知技術、偽・誤情報が転載・拡散された際に、電子透かし技術により改ざんの有無を確認し、正しい情報かを判定するファクトチェックAIエージェントの3つを開発する。そして、これらのシステムを活用した実証実験を、長野県伊那市で実施する。

自治体向け偽・誤情報総合対策の開発・実証のイメージ

　本実証は、総務省の「インターネット上の偽・誤情報等への対策技術の開発・実証事業」に採択された、両社で構成されるコンソーシアムの取り組みとして実施される。両社は、本実証の成果をもとに、自治体の広報や防災、危機管理業務などへの技術実装を進め、現場での実用性と運用性の向上を図るとしている。