生成AIで最新の手口も模倣できる「特殊詐欺被害防止訓練ツール」、富士通・東洋大学・尼崎市が開発

特殊詐欺防止訓練AIツール

　富士通株式会社、学校法人東洋大学、兵庫県尼崎市は11月30日、3者が行っている特殊詐欺未然防止技術の共同研究において、特殊詐欺の手口を再現するAIを用いて会話形式で実際に特殊詐欺とのやりとりを体験し、訓練できる「特殊詐欺防止訓練AIツール」を開発したことを発表した。

　警視庁によると、2022年における全国の特殊詐欺の認知件数は1万7570件で、そのうち65歳以上の高齢者をターゲットとする特殊詐欺が86.6％と9割近くを占めている。被害対策としては、警察や防犯協会による講習会での訓練などが各地で行われているが、手口が年々巧妙化するため、訓練内容を反映させにくいことが課題とされている。このため、3者は高齢者の防犯意識を高めるべく、生成AIを活用したツールの開発に至った。

　開発されたツールは「詐欺疑似体験機能」と「フィードバック生成機能」の2つから構成されている。

最新事例にも対応し、リアリティあるやり取りができる「詐欺疑似体験機能」

　詐欺疑似体験機能は、特殊詐欺の手口を模倣する生成AIと通話することで、リアリティのある訓練が可能となる。生成AIは、特殊詐欺の手口ごとにプロンプト（指示）を与える必要があるが、新たな手口が編み出されたときに、まだ少ない事例から対応したプロンプトを作ることが難しかった。

　そこで、同訓練ツールでは、新たに「骨組み抽出機能」「情報収集機能」を搭載した。前者は、過去の特殊詐欺被害の情報をもとに、犯罪心理学の視点から、共通する会話の構成のシナリオと、被害者を動揺させ行動を起こさせる扇動方法などの手口の骨組みを明らかにする。後者は、詐欺被害情報サイトなどで配信されている中から、「医療費」や「還付」といった詐欺被害において特徴的なキーワードなどの概要情報を収集する。

　この2つの機能から抽出・収集された情報をもとにプロンプトを自動で生成することで、最新の特殊詐欺の手口を模倣することも可能になったとしている。

プロンプト自動生成技術

体験者の"だまされやすさ"を判定できるフィードバックバック生成機能

　フィードバック生成機能は、非接触ミリ波センサーによって訓練中の高齢者の呼吸数や脈拍数などの生理反応を計測し、緊張やストレスといった心理状態を推定。これらのデータから、訓練者の"だまされやすさ"を算出し、フィードバックする。また、発話情報と生理反応の変動の関係性を分析し、生理反応の変動に影響があった発話情報（どのような言葉にドキッとしたか、など）もフィードバックする。これにより、訓練者は被害の危険性を客観的に把握し、防犯意識の向上が期待できるとしている。