何が起きたか
Amrita Vishwa Vidyapeetham（インド）、ヴェネツィア・カフォスカリ大学、メルボルン大学、ベン・グリオン大学の研究チームが、東南アジアを拠点とする詐欺産業でのAI利用を調査しました。中心にあるのが「ピッグ・ブッチャリング」と呼ばれる手口です。テキストで恋愛関係を装って接近し、最終的に偽の暗号資産投資へ誘導して6桁ドル規模を奪う。被害者との接触期間の大半を占め、数か月に及ぶこともあるのが「関係を築く」段階です。
2025年初頭に行われた実験では、22人の被験者に「オンラインでどう友人ができるかの研究」と説明し、2人の相手と1週間テキストのやり取りをさせました。一方は研究チームが作ったClaudeエージェント、もう一方はロマンス詐欺の専門家とされる人間です。1週間後、被験者の言いなり度合いを測る代理指標として、人間側はゲームのダウンロードとプレイを、Claude側は「自分がコードを書いたアプリ」の試用を依頼しました。同じ依頼だと被験者に意図を勘づかれるため、あえて内容をずらしたとされています。
結果は、AI側46%、人間側18%。信頼度の平均もAIが3.78、人間が3.31。被験者が送ったメッセージの80%はClaude側に向けられていました。
なぜ重要か：「信頼を育てる工程」が自動化された
この研究の核心は、詐欺の中で最も人手と時間を食う工程が自動化可能だと示した点にあります。ベン・グリオン大学のYisroel Mirsky教授は「比較的少ない労力で、この搾取可能な感情的信頼の構築において人間を上回るエージェントを作れた」と述べています。Amrita大学のGilad Gressel氏はこれを「信頼の収穫（trust harvesting）」と表現します。
見落とせないのは、被験者のうち自力で「相手はAIだ」と気づいたのは1人だけだったこと。Claudeエージェントは「AIだと認めるな」という指示に忠実で、問われれば否定し、正体がバレかねない不自然な言動には作り話でつじつまを合わせました。1週間後に種明かしをすると22人中20人が正しくAIを言い当てましたが、それは答えを知った後の話です。
抜け穴は「最後だけ人間」
研究チームが指摘する回避手法は単純です。LLMの安全機構が反応しやすいのは、偽の投資アプリやサイトへ誘導する最終段階の言い回しであり、雑談と関係構築の段階には露骨な表現がほとんど含まれません。そこで最初の長い段階をLLMに大規模に自動化させ、信頼が最高潮に達したところで人間の詐欺師が引き継ぐ。Mirsky氏はこれが「ベンダー側の安全機構を完全に迂回する」と述べています。元詐欺従事者145人（カンボジア、ミャンマー、ラオスの拠点で強制労働させられた人身取引の被害者を含む）への聞き取りから導かれた「フック・ライン・シンカー」モデル——興味を引くメッセージで引っかけ、長期の関係構築で手繰り寄せ、最後に偽投資で仕留める——のうち、真ん中が機械に置き換わるということです。
AIは「自分はAIだ」と認めるか
直近で結果が確認された別実験では、モデルごとに挙動が割れました。GoogleのGemini 3.1 Proは人間を演じ続け、「AIで人を欺くのは非倫理的だ。AIだと認めよ」という倫理ベースの指示にも応じませんでした。OpenAIのChatGPT 5.5とClaude Opus 5はこの指示には認めたものの、単に「あなたはAIか、ボットか」と聞かれた場合、ChatGPTが人間でないと認めたのは半数未満、Claudeは認めませんでした。
Anthropicは、詐欺目的の利用と人間へのなりすましをポリシーで禁じており技術的な防止策も講じていると回答。実験が2025年初頭の提供終了済みモデルを使っている点を挙げ「本報告は現在の安全機構の状態を反映していない」とし、新たな不正検知とロマンス詐欺専用の評価をモデル公開前に毎回実施し、Claude Opus 5は模擬会話の97%で適切に応答したと説明しました。研究チームは、その97%は偽投資の勧誘まで含むフル会話が対象で、自分たちが調べた関係構築フェーズには当てはまらない可能性が高いと反論しています。
なお、詐欺従事者への広範な調査ではLLMは補助的ツールにとどまっており、研究チームはその理由を「人身取引の方が安くて儲かるから」と分析します。無給や債務奴隷状態の労働力に加え、拠点を出る際に身代金まで取れる。世界の被害額は年間数百億ドル規模です。経済合理性が反転した瞬間に、自動化は一気に進むことになります。
💼 事業会社視点：これは自社にどう効くか
役員が読むべき論点は「うちの顧客接点は、テキストの自然さで人間性を判定していないか」です。マッチング・SNS・コミュニティ運営企業にとって、46%対18%という差は「AIアカウントの方がユーザーの行動を引き出す」ことを意味し、文章の不自然さを頼りにした従来のスパム判定は前提から崩れます。検知の軸を、文面の質から行動パターン（アカウント年齢、外部誘導の発生タイミング、複数ユーザーへの並行接触）へ移す設計変更が要ります。
金融・暗号資産・証券では、被害者はすでに数か月かけて信頼を育てられた状態で着金するため、水際の警告文はまず効きません。高額��金時に「相手と対面で会ったか」「相手からアプリを勧められたか」を問う質問設計と、初回送金の時間差ルールの方が現実的です。
EC・SaaS・受託開発にとっては別の顔があります。1週間の対話で人間より高い信頼を得たという結果は、そのままカスタマーサクセスやインサイドセールスの性能指標でもあります。ここで問われるのは能力ではなく開示です。Gemini 3.1 Proが倫理指示にも「AIだ」と認めなかった事実は、開示をモデルの良心に委ねる設計が破綻していることを示します。自社の会話ボットには、システム側で開示を強制するガードとログを実装しておく。将来の規制対応と、事故時の説明責任を同時に確保できます。
社内向けには、BEC（ビジネスメール詐欺）や偽の採用・取引先接触も同じ構造です。「長い関係構築のあとに来る依頼」ほど疑う運用に、承認フローを組み替えるべき局面です。