「ChatGPT」は便利だけど…日本語での本格的なネット詐欺メールが急増する可能性も？

　昨年冬ごろからOpenAIのAIチャットボット「ChatGPT」が話題を集めています。何か質問したり指示をすると、あたかも賢い人間のように返答してくれるのが特徴です。「GPT-3.5」という大規模言語モデルを利用しており、大量のテキストデータを用いた事前学習を通じて、違和感のない自然言語処理が行えます。しかし、このChatGPTが将来的にフィッシング詐欺に活用される可能性が出てくるかもしれません。

　ネット詐欺メールは日本でも大量にばらまかれています。アマゾンやマイクロソフトなどの大手企業を騙り、偽のウェブサイトにアクセスさせ、ID・パスワードや個人情報などを盗むのが目的です。盗んだ情報はダークウェブなどで、さらにほかのサイバー犯罪者に販売され、不正アクセスやさらなるネット詐欺に利用される恐れがあります。

　世界中で猛威を振るっているフィッシング詐欺ですが、海外のサイバー犯罪者が日本をターゲットにする場合、日本語で文面を書かないといけないことが壁になっていると言われます。最近の翻訳サービスはとてもクオリティが高くなってきていますが、それでも英語の長文を自然なビジネス日本語に訳すのは困難です。

　ネット詐欺を見破るには、不自然な日本語を使っているのを見つけるというのが、以前は効果的な対策でした。しかし、ChatGPTの登場で詐欺師が文面を考える手間も減り、フィッシング詐欺の精度が高まる可能性が考えられます。

　例えば、Amazon.co.jpのカスタマーサポートがアカウント情報について顧客に向けて送るようなメールの文面を日本語で書くよう指示した結果、以下のような自然な日本語が生成されました。

“件名：アカウント情報についての確認のお願い

お客様

いつもAmazon.co.jpをご利用いただきありがとうございます。この度、お客様のアカウント情報について、何らかの異常が発生している可能性があります。

安全のため、お手数ですが、アカウントにログインして、情報をご確認いただけますでしょうか。
特に、登録されている情報に変更があったかどうか、お確かめください。

もしお心当たりがない場合や、不審な点がある場合は、お早めに弊社カスタマーサポートまでご連絡ください。適切な対応をさせていただきます。対応をさせていただきまます。

お手数をおかけして大変申し訳ありませんが、ご理解とご協力をお願いいたします。

敬具
Amazon.co.jpカスタマーサポート”

　Amazonがこのような内容のメールを送ってくるというシチュエーションは不自然ですが、文章自体は自然です。悪意を持って書かせたものではありませんが、ネット詐欺師がネット詐欺メールを送ることを目的に、具体的な指示をした場合、そのような文章ができてしまう可能性もあります。

　ちなみに、ChatGPTにフィッシング詐欺を仕掛ける方法を質問すると、「申し訳ありませんが、私はそのような非倫行的な行為についてのアドバイスを提供することはできません」と断られます。悪用を防止する、何らかの仕組みがあるようです。

　しかし、ChatGPTが生成した文章からヒントを得られる可能性もありますし、ChatGPTに指示するだけで自然な文章による情報が得られることには、犯罪がより手軽なものになる恐れもあると感じさせられます。

　ChatGPTは無料で誰でも利用できますが、それを悪用する可能性も考えられます。効果的な対策は、2つです。ネット詐欺の事例を知ること。そして、メールやメッセージに書いてあるURLをクリックしないことです。何か操作や確認ごとがあれば、自分でウェブブラウザーを開いて、あらかじめ登録したブックマークや検索結果からそのサービスにログインしてください。これだけで、フィッシング詐欺のほとんどを回避できるはずです。

　ネット詐欺師は、あらゆるツールやサービスを悪用しながら詐欺を仕掛けてきます。私たちも自衛のために、デジタルリテラシーを高める必要があるのです。

NPO法人DLIS（デジタルリテラシー向上機構）

高齢者のデジタルリテラシー向上を支援するNPO法人です。媒体への寄稿をはじめ高齢者向けの施設や団体への情報提供、講演などを行っています。もし活動に興味を持っていただけたり、協力していただけそうな方は、「dlisjapan@gmail.com」までご連絡いただければ、最新情報をお送りするようにします。

※ネット詐欺に関する問い合わせが増えています。万が一ネット詐欺に遭ってしまった場合、まずは以下の記事を参考に対処してください
参考：ネット詐欺の被害に遭ってしまったときにやること、やってはいけないこと