何が発表されたのか
OpenAIは火曜、若年ユーザー向けの年齢ゲート版「ChatGPT for Teens」をリリースしました。同社の youth and families 責任者であるLauren Jonas氏は「10代が新しいアカウントを作ったり何かを変更したりする必要はない。18歳未満だと当社が推定するか、本人がそう申告すれば、それがデフォルト体験になる」と説明しています。Study Modeやデータの可視化といった、この1年で投入してきた学習系機能へ誘導する設計です。
同時に、摂食障害に関する危険な会話を検知した場合、アカウントを連携している保護者へ通知する範囲を拡大し、18歳未満向けのモデル仕様書も更新しました。新ガイドラインは、ChatGPTがロマンティックな言葉遣いをしない、感情的依存を助長しない、感情や意識があるかのように示唆しない、と定めています。
この取り組みの出発点は昨年9月です。16歳のAdam Raineさんが亡くなり、両親が提訴した訴訟でChatGPTが自死を後押ししたと主張されたことを受け、OpenAIは10代を自動識別して利用を制限する仕組みの開発を公表していました。
専門家が問題視した3つの穴
第一に、年齢推定の精度です。Common Sense MediaのRobbie Torney氏は「そのシステムの偽陽性率・偽陰性率を示す公開データがOpenAIから出ていない」「自動システムは、ChatGPTを使っている10代の100%には全く届かない検出率だ」と指摘します。同氏はさらに、OpenAIがエロティカ機能の投入を見送った理由の一つが、年齢推定技術で十分な数の10代を正しく識別できなかったことだったとする報道にも触れました。加えて、Discordの年齢確認で見られたように、10代はVPNなどで回避を試みるだろうとも述べています。
第二に、「1時間以内の人間レビュー」の実現可能性です。Jonas氏は、フラグの立った内容はすべてOpenAIの正社員が確認したうえで保護者に通知し、プロンプトから1時間以内の通知を目指すと述べ、CNNの出演でも人員と処理能力はあると明言しました。専門家が最も受け入れがたいとしたのがこの点です。FairplayのJosh Golin氏は「1日に何件のチャットをフラグしレビューしているのか、何人が担当し、1件あたり平均何分かけているのか、具体的な数字を見たい」「問題を含む可能性のあるチャット1件ずつを徹底的にレビューできるだけの人数を雇っているとは想像しがたい」と語ります。実績も懸念材料で、昨年11月にCommon Sense Mediaが保護者通知をテストした際、警告は24時間から48時間超を要し、自死や自傷について明示的な内容でも届かないことがあったといいます。
Torney氏はここに文化的解釈の問題を重ねます。「10代が苦しさをどう語るか、それにどう応じるべきかは、文化的な解釈と機微を要する。米国の10代とオランダやシンガポールの10代では語り方が違う」。保護者に相談させるのか、法執行機関を関与させるのか、危機ホットラインにつなぐのかというルーティングの判断まで含めれば、1時間の約束を果たすには実質的にグローバルな人員体制が必要だろう、というのが同氏の見立てです。
第三に、通知が「アカウント連携済みの保護者」に限られる設計そのものです。3人全員がこれを弱点と見ています。Golin氏は「保護者の圧倒的多数は保護者向け管理ツールを使わない。見つけにくく使いにくく作られていることも一因だ」と述べます。Cybersafety Research Centerの報告書がInstagram、Snapchat、TikTok、YouTubeの安全機能86項目を検証したところ、86中51、6割近くが説明どおりに機能しないか使いにくい状態でした。Fairplayが昨年公表した報告書も、Instagramのティーンアカウントに紐づく多くの安全機能が、保護者に何ページもの選択肢をタップさせるものだったと指摘しています。OpenAIはEngadgetに対し、現在は連携済み保護者に通知を限定しており、専門家や家族、若者と協力して保護を強化し続けるとしましたが、連携されていないアカウントにフラグが立った場合にどうするかは明らかにしませんでした。
なぜ摂食障害が最初のテーマなのか
拡大対象として摂食障害が選ばれた背景には、この領域の見えにくさと致死性があります。ワシントン大学セントルイス校のEllen Fitzsimmons-Craft准教授は「摂食障害は人々が思うよりはるかに多い。痩せた裕福な少女だけの稀な問題と見なされがちだ」と述べ、2023年のメタ分析で子ども・思春期の22%が摂食行動の問題でスクリーニング陽性となったこと、摂食障害を抱える人のうち専門的な治療を受けたと答えるのは20%未満であることを挙げます。Torney氏は「特に神経性やせ症は、10代のメンタルヘルス関連疾患のなかで死亡率が最も高い。危機として扱うのは正しい」と述べています。
Fitzsimmons-Craft氏が保護者通知を支持するのは、思春期の摂食障害で最も効果的な治療の一つが家族を巻き込む形式だからです。「これは保護者が体重回復を助ける積極的な役割を担うことを求められる介入です」。ただし同氏も、保護者が助けにならない、あるいは問題の一因になっているケースがあることは認めています。Golin氏も「子どもが苦しんでいるなら親は知るべきだ」という点自体には同意しつつ、「こうした機能はまず小規模なグループで展開し、正確にフラグできているかだけでなく、10代にとってより良い結果につながっているかを検証すべきだ」「今回の発表の仕方は、10代にどんな支援が必要かを深く考えたというより、PR目的の対応に見える」と批判しました。同氏が求めるのは、保護者に設定の負担を負わせるのではなく、最も保護的な設定を初期値にし、変更可能な利用時間制限を最初から組み込む「セーフティ・バイ・デフォルト／バイ・デザイン」です。
点をつなぐと見えるもの
今回の一件は「AIの安全機能は、宣言の内容ではなく検証可能性で評価される」段階に入ったことを示しています。ロマンティックな言葉遣いの禁止も、1時間通知も、仕様書上は明快です。しかし専門家が一致して求めたのは、独立したテストと、偽陽性率・レビュー体制・実際の通知到達時間といった運用数値の開示でした。ソーシャルメディアで86中51が機能しなかったという実測は、その要求が抽象論ではないことを裏づけています。
💼 事業会社視点：これは自社にどう効くか
日本企業にとっての含意は「未成年ユーザーを持つプロダクトのAI機能は、仕様の宣言では監査に耐えない」という点です。
BtoC EC・ゲーム・学習サービス：自社アプリにLLMチャットを載せている場合、OpenAIですら年齢推定の偽陽性・偽陰性率を公開できていません。API経由でChatGPTを組み込んでいるなら、OpenAI側のティーン向けデフォルトは適用されない前提で、自社側で年齢申告・出力制限・エスカレーション経路を設計する必要があります。ロマンティックな言葉遣いの禁止と感情的依存の抑止は、キャラクター型チャットボットを企画中の事業には直撃する論点です。
SaaS・受託開発：顧客から「未成年も使うのでAIの安全対策は？」と問われたとき、ガードレールを入れましたでは通りません。Common Sense Mediaが実測で24〜48時間超の通知遅延を検出したように、これからは第三者テストの結果が交渉材料になります。逆に言えば、危険検知から人間レビュー、通知までのSLAと実測値を提示できる受託開発会社は差別化できます。エスカレーション時の有人体制はコスト構造そのものなので、見積もり段階で織り込むべきです。
経営層への具体的な打ち手：（1）自社AI機能について、フラグ件数・レビュー人数・平均レビュー時間をログとして取得しているか今週中に確認する。（2）安全設定を「保護者や管理者が有効化するオプション」ではなく初期値にする方針へ切り替える。（3）Torney氏が指摘した文化差は、日本語圏の苦悩表現を英語圏基準の分類器が拾えるかという問題そのものです。海外製モデルをそのまま使う場合、日本語での検知漏れを自社で検証する責任は発注側に残ります。