濃緑の背景にチェックマーク入りの盾のアイコンと、周囲に散らばる小さなオレンジ色の点が描かれた抽象イラスト

記事

詐欺師をAIボットが足止め——35万体の「おとり」が仕掛ける新しい対策

AIが詐欺やサイバー犯罪を加速させる一方で、それを食い止める側にも採用され始めています。電話詐欺師をAIボットへ誘導するApateの事例や、LLMを使ったハニーポット研究をWIREDの報道から紹介します。

AIはデジタル詐欺やサイバー犯罪を加速させる技術として語られがちですが、同時にそれを食い止める側にも採用され始めているとWIREDが報じています。各国政府が対応に苦慮してきたオンライン犯罪の領域で、AIを「おとり」として使う取り組みが具体的な成果を上げ始めているという内容です。

詐欺師をAIボットへ誘導する「Apate」

記事で紹介されているのは、ギリシャ神話の欺瞞の女神にちなんで名付けられたオーストラリア企業Apateの取り組みです。同社は2年がかりで、電話詐欺師をAIボットとの通話へそらし、詐欺に引っかかることなく会話をできるだけ長く引き延ばすシステムを構築してきました。創業者兼CEOのDali Kaafar氏は「私たちが作ろうとしているのは、詐欺師にとっての“完璧な被害者”だ」と述べ、「詐欺師がボットやエージェントと話している1分間は、おそらく数百人、数千人もの被害を未然に防いでいる1分間だ」と説明しています。

銀行・通信キャリアが支える35万体のボット軍団

Kaafar氏によると、Apateのプラットフォームは銀行に利用され、通信キャリアの支援も受けながら、約35万体のボットを運用する規模にまで成長しています。電話を受けるだけでなく、オンラインの詐欺チャットグループにも入り込み、テキストメッセージにも返信することで、詐欺師を苛立たせながら情報を収集しているといいます。ボットにはそれぞれ異なる人格、言語スキル、プロフィールが設定されており、WhatsAppを使う設定のボットもいれば使わない設定のボットもあるなど、詐欺師に不自然さを悟られないよう工夫されています。

緑色の背景で笑顔のマークが入った盾のアイコンに向かって、オレンジ色の点がたどる点線のイラスト

画像引用元: WIRED

記者自身が試した「おとり」の自然さ

WIREDの記者は、ユーザーが詐欺師役を演じてApateのAI「被害者」と会話できるデモ版を実際に試しています。ボットの人格は適度な疑い深さを持ちつつ、詐欺師が説得を続けられる余地も残すよう設計されていました。詐欺師側もこうしたやり取りの手口には慣れているとみられ、Apateの通話は2時間を超えて続くことも珍しくないとKaafar氏は述べています。記者が2人がかりでボットを相手にした検証でも、会話のテンポは自然で、やり取りに引き込まれる感覚があったと伝えています。

ハニーポット研究にもLLMの効果

もっとも、Apateの大規模なボット軍団をもってしても、詐欺の電話やメッセージが根絶されるわけではありません。サイバー犯罪者は年間数十億件ものメッセージや通話を仕掛けており、物理拠点を構えた産業規模の詐欺オペレーションも存在します。一方でAIは、警察やSNS企業、銀行といった業界間の情報共有を後押しする役割も期待されています。記事ではハニーポット（偽の仮想マシンでハッカーを誘い込み、時間を浪費させて手口を分析する手法）の研究にも言及しており、ETH Zürichの博士課程研究者Mark Vero氏らの研究では、LLMを使ったハニーポットの方が、挙動が予測しやすい従来型のハニーポットよりもAIエージェントを「有意に長く」引き留められることが分かったとされています。攻撃側のAIエージェントは、LLMがシミュレートしたハニーポットをより信用しやすく、本物のシステムだと誤認しやすいのだといいます。

攻防戦の次のフェーズへ

AIが詐欺を効率化する一方で、守る側もAIを武器にし始めている構図が見えてきます。Apateのような「おとりボット」軍団と、LLMを活用したハニーポット研究はどちらもまだ発展途上ですが、犯罪者を足止めし情報を奪い返すアプローチとして、今後さらに洗練されていく可能性があります。詐欺対策が「人力の警戒」から「AI同士の攻防」へと移り変わりつつある様子がうかがえる報道です。警察やSNS企業、銀行といった業界をまたいだ連携がどこまで進むかによって、こうした「おとりAI」の効果もさらに大きく変わってきそうです。