何が起きたか

Flock Safetyは、車両のナンバープレートに加え、メーカー・車種・色などをAIで識別し、車と人の移動をネットワーク横断で追跡する自動ナンバープレート読取（ALPR）カメラを展開する企業です。米国内の設置台数は12万台を超え、数千の法執行機関や事業者が利用しています。

そのFlockが、警察側の悪用報道を受けて仕様変更に踏み切りました。これまで任意機能だった「Audit Assistance」（異常な検索挙動＝“abnormal search behavior”を検知し、該当ユーザーを管理者の確認まで即時ロックする仕組み）を、数週間かけて必須化します。全ユーザーに事件番号（ケースコード）の入力も義務付け、行方不明児童の捜索など緊急時は管理者が回避できるものの、回避操作は自動的に監査対象としてフラグされます。

引き金は、404 Mediaが報じた十数件の違法追跡事例です。元交際相手などを警察官が私的に追跡していたもので、Flock自身も15件を把握していると認めました。被害者の一部は「HaveIBeenFlocked.com」で初めて自分が追跡対象だったと知っており、Flockは同サイトの削除を試みたとされます。米NSAはこの種の情報システム私的流用を「LOVEINT」と呼んできました。

なぜ重要か

問題は「悪い警官が数人いた」ことではありません。悪用が起きた後でなければ検知できない設計のまま、12万台規模までスケールしてしまった点にあります。Flockは15件について、いずれも自社プラットフォームに意図的に組み込まれた透明性・説明責任機能によって表面化したと説明していますが、その機能は事件が起きるまで任意設定でした。ガバナンスを「オプション」に置いた製品が全国網になると、抑止ではなく事後発見しか働かない構造になります。

反発は多方面に広がっている

・自治体：ロサンゼルスを含む数十のコミュニティが契約解除やカメラ停止に動き、収集データの範囲・アクセス権限・利用目的の制限を求めています。LAPDは利用を停止し、Flock広報は「misconceptions（誤解）」が停止につながったと説明しました。

・誤検知の実害：The DriveのJoel Feder氏は、ミネソタ州で盗難ではないナンバーを「盗難車」と判定され、警察が出動する事態になったと報じています。Flockはこの一件でカメラは「correctly（正しく）」動作したとしました。技術的に正しくても、市民の安全を脅かし得るという典型例です。

・言論への圧力：カリフォルニア州ニューポートビーチの講演企画「The Saturday Salon」は、Flockの監視技術を扱う会合の中止を求める停止通告書とみられる写真をInstagramに投稿し、「玄関のドアに貼られていた」と説明。投稿は3,000超のいいね、Blueskyでは360超のリポストを集め、批判を封じようとする姿勢自体が炎上しました。

・セキュリティ：技術系YouTuberのBenn Jordan氏と404 Mediaの調査で、パン・チルト・ズームで人や車を自動追尾するFlockの「Condor」カメラ60台超のライブ映像が、IDもパスワードもなくWeb上で閲覧可能だったことが判明。EFFも今年、100台を超えるALPRカメラがブラウザだけで開ける状態で露出していたと報告しています。

・パートナー離脱：AmazonのRingは、Neighborsアプリのユーザーに映像提供を依頼できる連携を計画していましたが、これを白紙撤回。Flockは「Ringとの提携検討を一時停止する」とし、Ring側は精査の結果として想定以上の時間と資源が必要と判断した共同判断であり、連携は未稼働のため顧客映像がFlockに渡ったことは一度もないと説明しました。

・その他：流出データからは、米国のナンバープレートを分類するAIアノテーターの一部がフィリピンに所在することが判明（データはFlockへの取材後に消滅）。FlockはICEや国境警備隊とも地元警察経由で関わるとされ、テネシー州では連邦議会選の候補者がFlockカメラを銃撃したとして重罪の器物損壊4件で訴追されました（7月中の約1週間の犯行を認めたとブラント郡保安官事務所は説明）。

💼 事業会社視点：これは自社にどう効くか

日本企業にとっての含意は「監視技術の是非」よりデータを預かる事業の設計責任です。第一に、権限管理を任意機能に置いた製品は、規模が出た瞬間に経営リスクへ転化します。SaaS事業者は、監査ログ・異常検知・利用目的コード入力を有料オプションや上位プランに閉じ込めていないか点検すべきです。Flockは事件後に必須化しましたが、順序が逆でした。

第二に、パートナー審査。RingがAmazonブランドを守るために連携を土壇場で捨てたように、提携先の炎上は自社ブランドに直撃します。ECや小売がAI防犯カメラ・顔認証・来店客分析を導入する際は、ベンダーのデータ提供先と削除ポリシーを契約条項で押さえるのが最低線です。

第三に、露出の技術的初歩。認証なしで60台超の映像が見えていた事実は、IoT・カメラ・エッジ機器を扱う受託開発とSIerに直接刺さります。納品後の設定管理まで責任範囲を明文化しておかないと、顧客の設定ミスが自社の事故として報じられます。

最後に、批判者への法的圧力は最悪の広報施策です。停止通告が3,000超のいいねを集めた事実を、危機対応マニュアルに書き加えるべきです。

関連リンク