やじうまWatch

サイバー犯罪に特化した悪意ある生成AIが登場、セキュリティベンダーが注意を呼び掛け

  • tks24

2023年7月18日 13:48

　サイバー犯罪に特化した生成AIが、サイバー犯罪に関連することが多い著名なオンラインフォーラムに登場したとして、セキュリティベンダーが注意を呼び掛けている。

　一般的な生成AIは倫理的にNGとされる行為には加担しないよう制限がかけられているが、今回その存在が明らかになった「WormGPT」はこうした制限が一切なく、サイバー犯罪者が違法行為を行うことを支援する設計が特徴。具体的には説得力が高くパーソナライズされたビジネスメール詐欺（BEC）の作成および実行支援のほか、マルウェアの作成などにも対応しており、サイバー犯罪の初心者でも簡単に利用できるなど、脅威となるべき条件が揃っている。セキュリティベンダーのSlashNextはこれらの存在について注意を呼び掛けるとともに、生成AIによるビジネスメール詐欺から身を守るためのトレーニングの実施を提案している。日本語に対応しているとの情報は今のところないが、翻訳ツールを使えば日本語環境でも利用は可能と考えられるため、十分な注意が必要と言えそうだ。