ChatGPTを使ってメール詐欺に立ち向かおう

自動スキャムベイティングは、オンライン詐欺に対抗するための方法なんだ。これは、詐欺師に反応するシステムを作って、彼らの時間やリソースを無駄にするっていうもの。これにより、実際の被害者を危険から守る助けになるんだ。過去にも、テキスト生成システムを使って詐欺師とやり取りしようとした試みがあったけど、これらのシステムが生成する反応の質が時々成功を制限することがあったんだ。

#実験

今回は、1ヶ月間行われた実験を見ていくよ。目的は、ChatGPTに基づいた2つのシステムが従来の方法に対してどれだけ効果的かを調べることだった。実験では、250人以上の実際の詐欺師とメールでやり取りしたんだ。結果は、ChatGPTベースのシステムが従来のアプローチよりも遥かに高いエンゲージメント率と長い会話を持っていたことを示してる。これは、詐欺師をおびき寄せるために使われた以前の方法に対する大きな改善を意味しているんだ。

#メール詐欺

メール詐欺は、今のオンライン世界で大きな問題になってるよ。投資詐欺やオンラインデート詐欺、テクサポ詐欺など、いろんな詐欺がメールから始まることが多いんだ。最近の報告では、多くの人がこれらの詐欺でお金を失ったっていうことが示されてる。これらの犯罪は国を越えることができるから、責任を持つ人を捕まえるのが難しくて、起訴も大変なんだ。

これまでは、ほとんどの詐欺対策が疑わしいメールをブロックしたり、フィルターを使ってユーザーを守ることに焦点を当ててたけど、最近ではもっと積極的なアプローチが提案されてる。つまり、詐欺師に実際の被害者を狙わせないように積極的に関与していくってこと。自動スキャムベイティングはそのために導入された方法の一つで、自動化されたシステムが詐欺師に返事を送り、彼らに潜在的な被害者と通信していると信じさせるんだ。

ただ、以前の強力ではないテキスト生成システムは、信じられるメッセージを生成するのに苦労してた。これが多くの場合、会話がすぐに終わってしまう原因になったんだ。

#テキスト生成の進展

今では、より良い技術が利用可能になって、より効果的なスキャムベイティングの可能性が高まってる。この記事では、新しいテキスト生成システム、特にChatGPTが自動スキャムベイティングの効果をどう改善できるかを掘り下げるよ。焦点は、これらのアップグレードされたシステムが以前の方法よりも詐欺師との会話をより良く、長持ちさせられるかどうかってこと。また、実際の人間の返事から学習したシステムが基本的な指示に従ったものよりも良い結果を出すかどうかも調べるんだ。

#研究質問

研究を導いた2つの主な質問がある。まず、ChatGPTベースのシステムは、詐欺師が返答するのを促したり、会話を続ける点で従来の方法よりも効果的なのか？次に、人間のスキャムベイティングの例から学んだシステムは、一般的な指示に従うものよりも良い結果を出すのか？

#方法論

これらの質問を検証するために、実際の詐欺師にメールで連絡を取る実験をデザインしたんだ。この実験は、無知のままで人々を誤解させることが関与してるから、倫理審査委員会からの承認を得て行われたよ。

実験では、最近の詐欺メールを収集するために特別なメールサーバーを使用し、それらを異なる反応戦略にランダムに割り当てた。ChatGPTの応答を可能にするための新しいモジュールが作られ、従来の方法と比較することも行われたんだ。

ChatGPTは、より人間らしい応答を生成できる強力な言語モデルのバージョンとして選ばれた。応答はオープンソースAPIを通じて監視され、その効果を従来の方法と比較して評価されたよ。

#反応戦略

ChatGPTを使った2つの異なる反応戦略が、コントロール方法と一緒にテストされたんだ。

#チャットリプライヤー1

最初の戦略は、ChatGPTが一般的なガイドラインに基づいて詐欺メールに返答するように指示したもの。この目的は、詐欺師に対して簡単に説得されそうな誰かとコミュニケーションを取っていると信じさせる反応を作ることだった。これは、詐欺について言及せず、個人情報も共有せずに、興味を持ち、好奇心を持っているように見せる返答を作ることを意味していた。

最初のテストでは、このChatGPTモデルが時々詐欺を明らかにしたり、虚偽の個人情報を共有することがあって、それが詐欺師が会話を続けたくない理由になってた。モデルがこの情報を開示したり、詐欺を指摘しないように調整が行われたよ。

#チャットリプライヤー2

2つ目の戦略は、人間のスキャムベイティングのやり取りの実例を提供することが、より良い反応につながるかどうかを見極めるためのものだった。詐欺師と人間のベイターの過去の会話データセットが、このChatGPTモデルのトレーニングに使用された。目標は、人間が使っていた成功した戦術を模倣することだった。

このChatGPTモデルには、一連の例え会話が与えられ、その後、会話中にそれらを参照せずに反応を作るように指示された。これらの例が、システムがより自然で魅力的な返答を生み出すために役立つことを期待していたんだ。

#コントロール手段

コントロール手段では、詐欺師に応答するための事前に書かれたテンプレートに依存する方法が使われた。このアプローチでは、メッセージをカテゴリ分けして、詐欺のタイプに基づいて応答を選択することが含まれていた。このコントロールの目的は、新しいChatGPTシステムが確立された方法と比較してどのような結果を出すかを見ることだったんだ。

#結果

実験は2023年4月9日から5月7日まで行われた。この1ヶ月間、3つの異なる反応戦略が、オンラインフォーラムから集めた819の詐欺メールアドレス池に対してテストされた。合計で、システムは286の個別の詐欺師から返事を受け取って、35%の応答率を示したんだ。

分析中に、いくつかの詐欺師が自動応答を利用していることがわかった。これらの詐欺師との会話は、残りのデータの有効性を確保するためにフィルタリングされた。最終的には、254の有効な会話が行われ、各会話には少なくとも1回の返答が含まれていた。

結果は、チャットリプライヤー1が最も多くの会話を引き付け、チャットリプライヤー2は全体的に少ない返事を生成したことを示していた。コントロール方法は、3つの戦略の中で最も少ない返信を受け取ったんだ。

#エンゲージメントメトリクス

チャットリプライヤー1は、より多くの会話を引き付けただけでなく、詐欺師をより長い期間引きつけていた。平均的な会話は約2日間続き、一部のインタラクションは27日間続くこともあった。このパフォーマンスは、コントロール方法と比較して明らかな改善を示しているんだ。

対照的に、チャットリプライヤー2は、短いエンゲージメント時間と会話ごとの少ない返答数を持っていた。人間の会話の例を使用することが、初めに期待されたほどの効果を発揮しなかったんだ。

#以前の研究との比較

これらの結果を以前の研究と比較すると、どちらのChatGPT戦略も古い方法を大幅に上回っていたことが明らかだった。以前の研究で最も良いパフォーマンスを示していた伝統的なコントロール方法は、ここでは比較的弱い結果を示した。ChatGPTのシステムは、詐欺メールからの特定の詳細を活用し、詐欺師の注意を引き付け、より長い会話を促すことができたんだ。

#観察と洞察

やり取りの中で、ChatGPTシステムが時折、忘れっぽかったり混乱しているように見えることがあった。これが会話が続く理由にもなったんだ。なぜなら、システムが詐欺師にすでに答えた質問をすることがあったから。でも、これは欠点と見なされる一方で、詐欺師をより長く引き付けることにもつながることがわかった。イライラが時にはスキャムベイターの利点になることもあるんだ。

しかし、リスクもあった。いくつかのケースでは、詐欺師が自分がボットとやり取りしていることに気づいて会話を終了させたこともあった。ChatGPTのシステムは時折、自分がAIであることを明らかにし、その結果、一部の詐欺師は関与をやめたが、他の詐欺師は会話を続けることを選んだんだ。

#結論

ChatGPTベースのシステムは、詐欺誘引において非常に効果的だということが証明された。従来のアプローチよりもかなり多くの返答を生成しているんだ。一部のシステムのミスもあったけど、今後のやり取りを改善するための調整ができる。研究は、現在の実装には限界があるかもしれないけど、テキスト生成技術の進展が、自動スキャムベイティングの方法でオンライン詐欺と戦うための有望なツールを提供することを示唆しているんだ。