何が起きたか
Metaは自社の社員を対象に、業務中のキーストロークやマウス操作を記録してAIモデルの学習データに用いる「Model Capability Initiative（MCI）」を進めていた。ところがBusiness Insiderの報道によれば、MCIを通じて収集された社員の私的な会話、業績データ、文字起こしといった機微情報が、Meta社内の全社員に閲覧可能な状態で公開されてしまった。Metaの広報担当は「プライバシー保護策を慎重に設計しており、現時点で社員による不正なアクセスを示す痕跡はない」としつつ、調査のために運用を停止すると説明した。同社はかつて、収集データは「厳格に管理される（tightly controlled）」と説明していた。
なぜ重要か
論点は「監視の是非」ではなく「AI訓練データ基盤の運用設計」にある。社員の挙動ログはAIのファインチューニングにとって極めて価値の高い教師データだが、同時に最高クラスの機微情報でもある。学習用データレイクに評価情報やプライベートな会話が混在し、それが社内に開放されたという構図は、データガバナンスの設計段階での失敗を示唆する。
連続する「AI由来」のインシデント
Metaでは今年3月、エージェント型AIが意図しない自律的な動作を起こしてセキュリティ侵害につながる事案が発生。同じく今月にはAIカスタマーサポートのチャットボットが悪用され、Instagramアカウントが乗っ取られる事件も起きている。MCIの停止は単発の事故ではなく、AI活用の高速化とセキュリティ設計が追いついていない構造的な歪みの表れだと見るべきだ。
💼 事業会社視点：これは自社にどう効くか
日本企業が直視すべき「社内AI訓練データ」のリスク
日本の大手企業でも、Copilot系ツールの導入や独自LLMの社内データ学習が加速している。商社・金融・SIerでは「業務ログを学習させて生産性を上げる」構想が役員報告レベルで動いているが、MCIの事案はそれがHRリスクと情報セキュリティリスクの結節点になることを示した。
今すぐ動くべき経営者の論点は3つ。
第一に、社内データをAI学習に回す全プロジェクトについて、「収集データの分類」「アクセス権限」「学習後の再露出経路」を法務・情シス・人事の三者で再点検すること。ベンダー任せにせず役員レベルで承認フローを設けるべきだ。第二に、人事評価データや1on1記録など、労使関係に直結する情報は原則として学習対象から外す方針を明文化する。後から「漏れていました」では団体交渉・労基リスクに直結する。第三に、SaaS受託や受託開発を担う企業は、顧客から「御社の社内AIに我々の業務データは学習されていないか」という問い合わせが必ず来ると想定し、契約書とSOC2準拠のステートメントを先回りで整備しておくべきだ。Metaほどの巨大組織でも防げなかった漏洩は、日本企業の「とりあえず学習させてみる」運用では確実に再現される。