読めば身に付くネットリテラシー
従来の常識が通用しない！ “AI詐欺”が私たちの生活に入り込んでくる――防衛術はあるのか？
2025年7月18日 06:00
生成AIは生産性を向上させ、ビジネスを加速させ、新たな価値を生み出しています。そして、サイバー犯罪者も同様に生成AIを活用しています。これまでのネット詐欺といえば、少し不自然な日本語の詐欺メールが送られてくるような、どこか判別できそうなポイントのあるものが中心でしたが、これからは違います。AIの進化によって、まるでSF映画のような、巧妙で気付きにくい詐欺が、すでに私たちに手を伸ばしているのです。
本連載でも事例をいくつも紹介しているように、このことは、もはや現実的なリスクです。まだAIによる詐欺なんてピンと来ないと思う人は、運がいいか、気付いていないだけです。今回は、AIを使った新しいネット詐欺がどのように私たちの生活に入り込んでくるのか、そして、どうすれば自分や大切な人を守れるのかを解説します。
あなた一人のためだけに作られる「オーダーメイド詐欺」
近いうちに、あなたのことをAIが徹底的にリサーチしたうえで、詐欺が仕掛けられるようになるでしょう。あなた専用に作られた罠「オーダーメイド詐欺」とでも言うべき手口です。
例えば、ある日、昔の同僚から「お元気ですか？ SNSで見ましたが、最近○○（あなたが実際に行った場所）へ行かれたのですね。実はあの近くで新しい仕事を始めたので、一度、Zoomでお話しませんか？」というメッセージが届いたとします。あなたは、自分の最近の行動を知っている相手からの連絡を、疑うことができるでしょうか。
この程度のことは、AIがあなたと友人のSNSを分析すれば簡単にできます。SNSやメールのアカウントに不正アクセスできていれば、さらに高度な分析が行えます。この手口の怖いところは、人が何を信じるかという心の仕組みを巧みに利用する点です。私たちは、自分のことを知ってくれている相手に、つい心を許してしまいがちです。AIは、その心の隙を狙ってきます。
もし、あなたが寂しさを感じているなら、趣味や考え方がぴったり合う理想の恋人のようにアプローチしてきます。もし、あなたが仕事で悩んでいるなら、誰よりもあなたの才能を理解してくれるヘッドハンターのように声を掛けてくるでしょう。
AIは、あなたが最も求めている人物になりすまして近づいてくるのです。そのやり取りはとても自然で、人間と話しているように感じることでしょう。しかし、その裏では、「どうすれば獲物（あなた）を信じ込ませ、お金や個人情報を引き出せるか」という残酷な計算が行われているのです。
もはや、知らない人からの連絡は危ない、という昔ながらの用心だけでは身を守れません。相手は「あなたのことをよく知る、信頼できる誰か」を完璧に演じている可能性があるのです。テキストだけではなく、リアルタイムの音声や映像もAIが偽造できます。その結果、疑うことなく、危険なウェブサイトを開いたり、大切なお金や情報を渡してしまったりするリスクに晒されているのです。
AIが作り出す「偽りの社会」と「作られた流行」
私たちが何かを買ったり、信じたりするとき、専門家のお勧めや世間の評判を参考にすることが多いでしょう。この「専門家」と「世間の評判」の両方を、AIを使って丸ごと偽造してしまう、大掛かりな手口も登場してくるでしょう。
例えば、投資詐欺を仕掛けるなら、詐欺師はAIに「架空の専門家」を創作させるでしょう。投資話を持ち掛けるときに、AIは立派な経歴を持つ経済の専門家をでっち上げ、それらしい顔写真や有名大学の卒業経歴、学生時代に書いたことになっている専門的なレポートまで、全て本物のように偽造します。レポートの中身も、難しい言葉やグラフが並んでおり、一見しただけでは偽物とは到底分かりません。この偽りの専門家が「この投資は絶対に儲かる」とお墨付きを与えることで、詐欺話に信憑性を持たせるのです。
しかし、専門家一人が何かを言っていても、すぐには信じないかもしれません。そこでAIは、次に「偽りの世間の評判」を作り出します。AIは、ごく普通の人々に見えるSNSアカウントを何百・何千と自動で作り出し、それぞれが本物の人間のように投稿や会話を始めます。そして、この偽物の集団が、偽りの専門家の意見を口々に褒め始めるのです。「あの先生のおかげで儲かった！」「このチャンスを逃す手はない」といった投稿がネット上に溢れかえり、まるで本当に大流行しているかのように見せかけます。
こうなると、あなたはその作られた情報の渦の中で孤立してしまいます。専門家もみんなも良いと言っていて、自分だけが知らないのはおかしいのではないか、と焦ってしまい、判断力を曇らせてしまいます。また、怪しんで検索したとしても、肯定的な情報がたくさん出てくれば、信じてしまうのも仕方がありません。そして、AIが作り出した大きな舞台の上で、知らず知らずのうちに詐欺に加担したり、詐欺の被害に遭ってしまうのです。
自分で考えて犯罪を行う「AI詐欺師」の誕生
2025年は「AIエージェント元年」と言われています。AIエージェントは、目標達成のために自律的に行動し、意思決定を行うことができるシステムのことです。懸念されるのが、サイバー犯罪者が悪意を持ってAIエージェントを構築することです。人間からの細かい指示がなくても、自分で考えて犯罪を計画し、実行する「AI詐欺師」が生み出されてしまう可能性があります。
AIはインターネット上のあらゆる情報を収集し、ターゲットの趣味嗜好や経済状況、人間関係、さらには性格的な弱点まで詳細に分析できます。最新の音声合成技術やディープフェイク技術を駆使すれば、特定の人物の音声や映像を偽装することも可能です。自律的な計画立案・実行能力も備えています。
AI詐欺師は分析した情報に基づき、ターゲットを騙すための最も効果的なシナリオを自ら考え出し、メールやSNS、電話など複数のツールを自動で使い分けて計画を実行します。サイバー犯罪者がAIに「どんな手を使ってもいいから、1カ月で1000万円稼いでこい」と命令するだけで、あとはAIが全て自動でやってのけます。
まず騙しやすそうな人をネット上から探し出し、その人に合わせたオーダーメイド詐欺のシナリオを作成します。次に、偽の評判をSNSに流しながら、マルウェアを送りつけ、お金や情報を盗み出します。そして、その手口が成功したか失敗したかを自分で学習し、次の犯罪をさらに巧妙なものへと進化させていくのです。この一連の流れを、AIは休みなく、人間には到底不可能なスピードと規模で実行し続けます。
AI詐欺の時代、身を守るために私たちができること
どうすれば、今後登場するAIによる詐欺から身を守ることができるのでしょうか。まず、私たち一人一人が心構えを変える必要があります。これからは「何も簡単には信じない」という姿勢が基本です。たとえ友人や家族からのメッセージであっても、お金が絡むお願いや、個人情報を聞かれたときには、一度立ち止まってください。
来たメッセージとは別の方法、例えば直接電話を掛けるなどして、本当に本人が送ったものかを確認する一手間が、命綱になるかもしれません。また、ネットで見た魅力的な話は、すぐに信じないでください。信頼できるニュースサイトや公的機関のウェブサイトなど、複数の情報源を確かめる習慣をつけましょう。そして、IDとパスワードだけで安心せず、二要素認証や、自分のアカウントにログインがあった際にスマートフォンに通知が届く機能など、より安全な設定を利用してください。
もちろん、個人の努力だけでは限界があるので、社会全体での取り組みも急務です。AI詐欺の攻撃から守るためには、同じくAIを使った防御システムが必要です。また、AIが作った文章や画像には「これはAIが作ったものです」という透かしを入れる仕組みを広めることも役立つかもしれません。
AIはとても便利で素晴らしい技術ですが、悪いことに使う人間も必ず出てきます。さらなるネットリテラシーを身に付け、AI詐欺師にも騙されないようにしてください。
高齢者のデジタルリテラシー向上を支援するNPO法人です。媒体への寄稿をはじめ高齢者向けの施設や団体への情報提供、講演などを行っています。もし活動に興味を持っていただけたり、協力していただけそうな方は、「dlisjapan@gmail.com」までご連絡いただければ、最新情報をお送りするようにします。
※ネット詐欺に関する問い合わせが増えています。万が一ネット詐欺に遭ってしまった場合、まずは以下の記事を参考に対処してください
参考：ネット詐欺の被害に遭ってしまったときにやること、やってはいけないこと