AIエージェントが詐欺を量産する時代、防御は検知から確認へ

手作業から流れ作業へ

ゲストはまず、エージェント型AIとチャットボットの違いを整理します。チャットボットは決められた台本に沿って応答するだけです。これに対しエージェントは複数の手順を任され、途中で判断しながら結果を持ち帰ります。主要3社の便を調べて最安値を探し、表形式で報告させるような指示がエージェント的な使い方だと説明しています。

そのうえで、AIが犯罪の世界にもたらす変化は合法な事業での変化と同じだと述べました。要点は「個人が以前よりはるかに多くのことをこなせるようになる」ことです。電話番号の名簿を集めて自動発信に流し、反応に応じて台本を分岐させる。こうした工程をつなげれば、詐欺はマーケティング施策のように規模を広げられるといいます。

ゲストによれば、3〜5人の仲間で数十人分の仕事をこなすことも難しくありません。合法な企業の宣伝が巧みになったため、知らない会社の広告はどれも詐欺に見えるとも指摘します。閲覧履歴やアプリの利用状況から弱みを読み取り、恋愛詐欺の標的を選ぶこともできるため、見分けはいっそう難しくなると述べています。

詐欺拠点のゆくえ

Butler氏は、人身取引で集めた労働力を使う詐欺拠点が自動化で不要になるのかを尋ねました。ゲストは、拠点の中間管理職も職を失いたくないはずだとして、人員はすぐに放り出されず別の作業に回される可能性を挙げます。暗号資産が国境を越えて動く場合の責任の所在など、法的な論点は流動的で答えにくいとも断っています。

最も恐ろしい展開として挙げたのは、人とボットの組み合わせです。100人の作業者それぞれにボットを与えれば「1万人分の仕事」ができる計算になり、犯罪組織の採算は一気に変わると語ります。人手が不要になる話より、既存の人員にボットが加わる展開のほうを深刻に見ている様子がうかがえます。

検知から独立した確認へ

防御策としてゲストが示したのは、異常を見抜くことに頼りすぎない考え方です。人も機械も間違えるうえ、正規の宣伝と詐欺の区別もつきにくいため、「独立した確認」が要になると述べます。うまい話の依頼が届いたら新たにメールを送るか電話をかけ、相手に直接確かめるべきだという具体例を挙げました。

声を複製して親族を装い、普段と違う送金先に振り込ませる手口にも触れています。最後に残る防御は「うますぎる話だ」と感じ取る人間の感覚だといいます。受け取る情報を点検する責任は常に自分にあるとして、「自分のループの中の人間は常に自分だ」と表現しました。既存の対策の有効性については、統制を重ねていくことが最善だと答えています。

本人確認と今後の展望

受け手側の銀行の対策について、ゲストはすべてのコンプライアンスは本人確認（KYC）から始まると明言しました。顧客が誰で、どの程度の資金が出入りするかを把握し、複数の確認とリスク格付けの仕組みを備える必要があるといいます。「口座開設時に集めたデータが悪ければ、その後は何も機能しない」と語り、犯罪資金の受け皿となるミュール口座対策の前提を示しました。

今後12か月については、詐欺はなくならないと述べます。規制が多少の助けになっても、すでに出回った道具や不正側で複製された道具には及ばないとみています。小さな堤防の建設を議論している間に大津波が迫っているという比喩で、規制論議の遅れを表しました。

最も早く起きる変化を問われると、AIの利用コストの急騰を挙げました。データセンターの新設は地元の反対に遭いやすく、需要に容量が追いつかないためです。AI企業は顧客獲得のために赤字で提供しているのではないかと述べ、いずれ価格が一気に上がると予想しています。