何が起きたか
Googleは、Gemini AIを詐欺目的で使用したとして中国系組織「Outsider Enterprise」を提訴した。同組織はGeminiを活用して、Google、YouTube、米国郵便公社（US Postal Service）、ニューヨークのEZPassといった実在する公的・民間サービスを模倣した偽サイトを9,000件以上構築。2週間という短期間で100万件超の不正URLを生成し、5万5,000件のスパムテキストと250万件の不正リンクを含むメッセージを送り付けたとされる。
被害の規模
被害者は数十万人にのぼり、損失総額は数百万ドルと推定される。AIを活用したことで偽サイトの精巧さが増し、従来のフィッシング詐欺と比べて発見・識別が格段に難しくなっていた点が被害拡大の一因とみられる。
初の官民連携
今回の訴訟はGoogleにとって、連邦機関および通信キャリアと共同で行う初めての法的措置となる。Google法務責任者のDeLaine Pradoは「この訴訟が初めての協調対応になったこと自体が、今回の詐欺の影響範囲の大きさを物語っている」と述べた。FBI副長官のBrett Leathermanも「犯罪者はAIを使って詐欺をより巧妙に、検知しにくくしている。恒久的な解決策が必要だ」とコメントしている。
立法面での動き
Googleはこの問題への対応として、AI悪用による詐欺を取り締まる7本の超党派法案の成立を支持している。共和党のBrian Fitzpatrick下院議員（ペンシルバニア州）は「これはスパムではない。携帯電話を通じて行われる組織的な国際犯罪であり、脅威と同等に協調的・積極的な対応が求められる」と訴えた。
なぜ重要か
生成AIが詐欺インフラの構築コストと難易度を大幅に引き下げた可能性を示す事例として、今回の訴訟は業界全体に警鐘を鳴らす。官民が連携して法的手段と技術的対策を組み合わせる枠組みが、今後の対AI詐欺戦略の雛形になるかどうかが注目される。
出典：Engadget
