何が起きたか
OpenAIは、ChatGPTのペアレンタルコントロールを拡張し、未成年の子どものアカウントが「暴力行為（Acts of Violence）」に関する利用ポリシー違反で停止された際、リンクされた親・保護者のアカウントに通知する機能を追加しました。親には「重要なお知らせ」というアラートが届き、「Learn More」をクリックすると、子のアカウントが利用ポリシー違反で停止された旨のメッセージを確認できます。
OpenAIは昨年、親が自分のアカウントを10代の子のアカウントと連携できるペアレンタルコントロールを導入していました。既存機能では、利用可能な時間帯の設定、センシティブなコンテンツの抑制、子が自傷を考えている兆候を検知した際の通知などが可能でした。今回の追加は、通知の対象を「子が他者に危害を加える可能性」へと広げるものです。
なぜ重要か
従来のセーフティ機能は、あくまで「子ども自身を守る（自傷の兆候）」方向に向いていました。今回の変更は、AIサービスが「子どもが他者にとって危険な存在になりうるか」まで踏み込んで親に共有する点が転換です。オンライン暴力の監視・対策を専門とするMoonshotとの共同開発である点も、単なる自動フィルタではなく専門知見を組み込んだことを示しています。
MoonshotのVidhya Ramalingam氏は「深刻な懸念が生じたときに親へ通知し、より詳しい文脈への導線を用意することは、家族が早期に介入し助けを求める機会を与える重要な第一歩だ」「これはChatGPT利用中の若者をより安全に保つために必要となる多くの施策のうちの一つだ」と述べています。
背景：規制当局の圧力
この機能拡張の直接の引き金は、2025年にカナダ・ブリティッシュコロンビア州Tumbler Ridgeで起きた銃乱射事件の容疑者がChatGPTを使っていたことが判明した件です。OpenAIが容疑者のアカウントを停止した際に当局へ通報しなかったと報じられ、カナダ当局はOpenAIを召喚。Sam Altman氏はこの見落としを謝罪し、安全プロトコルの強化を約束していました。
あわせてOpenAIは、ペアレンタルコントロールから直接「Study Mode（答える前にヒントを出し学習を促す機能）」を有効化できるようにしたほか、長時間利用する10代ユーザーには休憩を促す通知をより頻繁に表示するようにしました。
💼 事業会社視点：これは自社にどう効くか
未成年向けAIを扱う日本のEdTech・ゲーム・SaaS事業者にとって、これは「安全対応が事後謝罪から事前設計へ移った」ことを示す先行事例です。OpenAIは規制当局の召喚とCEO謝罪という代償を払った後で保護者通知を実装しました。逆算すれば、10代を含むサービスを持つ日本企業は、通報・保護者連携の設計を炎上前に組み込む必要があります。特に受託開発でチャットAIを組み込むベンダーは、暴力・自傷の検知時のエスカレーション経路（誰に、いつ、どう通知するか）を契約段階の要件に入れておくべきです。ECやSaaSの経営者は「未成年が使う可能性のある接点」を棚卸しし、年齢確認とアカウント連携の仕組みを検討課題に格上げすべきでしょう。日本でも今後、当局が同種の通報義務を求める可能性は高く、Moonshotのような専門ベンダーとの提携や外部監査の準備が、単なるコストでなくリスクヘッジとして効いてきます。
