やじうまWatch

AIで自社CEOの偽音声を作成し、財務責任者をだまして自らに振込させた実験結果が話題に

  • tks24

2023年11月28日 14:03

　AIを用いて自社CEOの偽音声を作成し、財務責任者をだまして自らに振込を行わせることに成功した実験が話題だ。

　これはセキュリティベンダーのESETが行ったもの。具体的には、ある従業員がAIを用い、過去にYouTubeにアップロードされている講演動画などから、同社CEOの合成音声を作成。同時にSIMスワップ攻撃を利用してCEOのWhatsAppアカウントを盗み、財務担当者に対して外部業者に対して振込を行うように音声で指示。並行して振込先の詳細を送ったところ、それら一連の行為をCEOからの指示だと信じ込んだ財務担当者から、外部業者を装った従業員の口座に、250ポンド（約4万7000円）が振り込まれたという。CEOの許可は事前に得ていたということで、つまり従業員本人とCEOとが一緒になって財務担当者をAIでだませるかを試した実験ということになるが、用いられたのは全て公開情報だけであり、その気になれば従業員でなくてもできてしまうことを裏付けている。ちなみに250ポンドは「もちろん返金」され、同社はその後、財務を保護するためにさらに多くの安全措置を追加したとのことだ。