GeminiをフィッシングツールとしてÅ悪用
Outsider Enterpriseは、メッセージアプリ「Telegram」を拠点とするサイバー犯罪組織で、いわゆる「フィッシング・アズ・ア・サービス」を提供していました。Googleの主張によれば、同組織はGoogleの生成AI「Gemini」を活用してGoogle本体、YouTube、ニューヨーク州のETC管理機関「E-ZPass」などを模倣した偽サイトを構築する具体的な手順書を顧客に配布していました。Geminiはコンテンツ生成ツールとして間接的に詐欺インフラの構築に利用された形です。
約300テンプレート、2週間で5万5,000件のSMS
同組織は約300種類の詐欺テンプレートを顧客に提供しており、これを使った詐欺師たちがAndroidユーザーへ合計250万件超のテキストメッセージを送信したことが確認されています。直近の2週間だけでも5万5,000件が送信されており、継続的かつ活発な活動が行われていました。誘導先の偽サイトでは個人情報や銀行口座情報が盗み取られる仕組みになっていました。
9,000の偽サイトと100万URLをGoogleが追跡
Googleはこのネットワークに関連する約9,000の偽サイトと100万件のURLを特定しています。悪意あるメッセージへの対応では、AT&T、Verizon、T-Mobileとも連携し、通信キャリアレベルでの遮断措置を講じました。
Google Messagesの防御と法的措置の併用
Googleによれば、Google Messagesの端末内スキャム検出機能は月間100億件の詐欺SMSをブロックしているとされます。ただし今回の事案が示すように技術的対策だけでは限界もあり、Googleは法的措置を組み合わせて対応しています。今回の提訴は、AIを悪用したフィッシングインフラに対してプラットフォーム側が法廷で責任追及に乗り出した事例として注目されます。
出典：Ars Technica
