AIでさらに巧妙化するオンライン詐欺をどう対策する？　ESETが最新の事例を紹介

増加し続けるフィッシング攻撃

　著名人のディープフェイク動画や偽のニュースサイトから、詐欺を目的にしたフィッシングサイトに誘導する攻撃が多く確認されている。ESETでは、こうした攻撃をNo Moneyをもじった「Nomani」と名付けている。日本における検出件数は2024年～2025年にかけて、約43％増加しているという。

　近年は、ディープフェイク動画の品質が向上していることに加え、ニュースなどで取り上げられて話題になっているトピックを利用することで、より手口が巧妙になっている。また、フィッシングサイトの構築には生成AIを使った痕跡があるという。

　このほかのフィッシングも多く検知されている。テキストメールによるフィッシングも巧妙化しており、タイプミスや言語の間違いから判断することは難しくなっているという。日本におけるフィッシング攻撃の検出件数は2024年～2025年にかけて、約48％増加している。2025年下半期は、上半期と比較して120％増加している。

日本における「Nomani」の検出件数

日本におけるフィッシングの検出件数

　また、偽のQRコードを読み取らせてフィッシングサイトに誘導する「QRコード攻撃」も増加している。攻撃者はメールやSMSだけでなく、偽のQRコードをパーキングメーターや充電スタンドなどにステッカーで貼り付けているという。

QRコード攻撃の例

悪意のあるコードの貼り付けを指示する「ClickFix」

　reCAPCHAやエラーを装い、悪意のあるコマンドの実行を指示する「ClickFix」にも新たな手法が確認されているという。

ClickFixの攻撃イメージ

　例として、Google検索のスポンサー枠を悪用した手口が紹介された。HomebrewのインストールについてGoogleで検索し、上部のスポンサー枠として表示されている「Claude AI」のリンクへアクセスすると、ユーザーが生成した手順書が表示される。しかし、そこに記載されたインストール用のコマンドは、デバイスをマルウェア感染させるものになっている。この手口では、Claude AIのドメイン上で、ユーザーが自由にコンテンツを公開できる仕組みが悪用されている。

検索結果のトップにユーザーが生成した手順書が表示

悪意のあるコマンドの実行を指示される

　このほかにも、Windowsのブルースクリーンや、ウェブブラウザーのエラー画面に似せた画面など、さまざまな手法が確認されているという。

さまざまなClickFixの画面

生成AIを実行フローに使用したマルウェア「PromptSpy」

　生成AIを実行フローに使用したAndroid向けのマルウェア「PromptSpy」が確認された。デバイスを遠隔操作できるようにすることが主な目的で、画面上の要素を解釈し、「最近使ったアプリ」にとどまって常駐化させるための動的な指示をGeminiを使って生成して実行しているという。

AI時代のセキュリティチェックリスト

　AI時代のセキュリティチェックリストとして、次の内容が紹介された。クボヴィチ氏は、これらの内容について、昔から言われているアドバイスだが、AIを使った巧妙な攻撃が多く確認されている現在でも有用だと説明した。

• デバイスは安全ですか
• （Wi-Fi）通信は安全ですか
• OSとアプリは最新状態ですか
• プライバシーに十分注意していますか
• アカウントは不正アクセスされにくいですか
• フィッシングや詐欺を見抜けますか
• デバイスは適切に保護されていますか
• ハッカーの視点で考えられますか
• 支払いは安全ですか
• データのバックアップはありますか