何が起きたか
OpenAIは8月、10代向けの利用モード「ChatGPT for Teens」を公開しました。約1年の開発期間を経たもので、教育ツールとしての位置づけと、より厳しいコンテンツ制御、若年層が健全にAIを使う習慣を促す機能を掲げています。OpenAIが18歳未満と判断したユーザーは自動的にこのモードへ入ります。
重要なのは、目玉となる機能の多くが「保護者が自分のChatGPTアカウントを子のアカウントと連携させ、設定をオン・オフする」ことを前提にしている点です。連携はプロフィールの設定メニューから「Parental controls」(モバイルではApp settings配下)を開き、家族メンバーを追加してメールか電話番号で招待、続柄に「My child」を選んで送信します。子ども側が承諾すると保護者側のFamily membersに名前が並び、個別設定を確認・変更できるようになります。逆に10代側から「My parent or guardian」を選んで保護者を招待することもできます。
初期値が示す設計思想
設定項目を並べると、OpenAIがどこを守り、どこを開けているかが見えてきます。「Reduce sensitive content(年齢に不適切な内容の抑制)」は初期状態でオン。一方で「Improve the model for everyone」——つまり10代の会話を将来のモデル学習に使うことを許す設定も初期状態でオンです。過去の会話をもとに応答を個別化する「Reference saved memories」は、地域の規制次第でオンの地域とオフの地域があります。ChatGPT Work(OpenAIの生産性エージェント)関連の「Codex network access」「Cloud browser」、そしてVoice Modeも初期状態で有効、画像生成も既定で使えます。
逆に初期状態でオフなのが、答えを教えずに自力で解かせる「Study Mode」を新規会話の既定にする設定と、その時間帯を決める「Study hours」、利用を禁じる時間帯を設定する「Quiet hours」です。教育的な機能ほど保護者が能動的に取りに行かないと働かない、という構造になっています。OpenAIは「ほとんどの設定をオフにすると該当機能は隠されるかブロックされる。オンにすれば機能は使えるが、他の安全保護は引き続き適用される」と説明し、「アカウントが連携されている間、保護者が管理する設定を10代側が変更することはできない」としています。
専門家が問題視するのは「記憶」
子どもの安全に取り組む専門家からは、既定の制限では不十分だという指摘が出ています。非営利団体Fairplayのディレクターであるジョシュ・ゴーリン氏は、ChatGPTの記憶機能を「最も愛着を生みやすい設計上の特徴」と表現し、「長期記憶の利用は大きな要素だ。チャットボットがユーザーについて覚えていることが少ないほど、関係性を形成する余地は小さくなる」と述べています。ドレクセル大学の最近の研究も、個別化と記憶の利用が、若者にとって本物の関係のように感じられるものから距離を取りにくくさせる二つの要素だと指摘しています。
つまり論点は「不適切な表現をブロックできるか」だけではありません。会話を覚え、その子に合わせて話し方を変えるという、プロダクトとして最も体験を良くする機能が、そのまま依存を生む要因として名指しされている構図です。実務的な推奨としては、Reference saved memoriesとImprove the model for everyoneはオフに、ChatGPT Workを10代が使う可能性は低いためCodex network accessとCloud browserは無視してよく、画像生成(インフォグラフィック作成など)とVoice Mode(アクセシビリティ)は有効のままが妥当とされます。そして多くの家庭では、放課後の特定の時間帯にStudy Modeを既定にするのが現実的です。ChatGPT for Teensには、宿題を丸投げしようとしていると検知した際にStudy Modeを促す「スマート宿題リマインダー」もありますが、無視することもできます。
通知の裏側にある人的コスト
安全通知も連携が前提です。子どもが自傷や他害について話した場合に作動し、懸念の概要や、自動保護が働いた場合のアカウント停止の詳細、支援リソースやOpenAIサポートへの連絡方法が含まれます。OpenAIで青少年・家族領域を統括するローレン・ジョナス氏はEngadgetに対し「テキスト、アプリ内、メールで保護者に通知する。フラグが立った内容はすべてOpenAIの常勤従業員がレビューしたうえで保護者に通知し、プロンプトから1時間以内の通知を目標にしている」と説明しました。自動判定だけで通知せず人がレビューする、そして1時間という時間目標を掲げる——ここには相応の運用体制とコストが埋まっています。
💼 事業会社視点:これは自社にどう効くか
経営層が読むべきは「未成年向けAI」の話ではなく、同意と初期値の設計が競争条件になり始めたという事実です。
第一に、B2C事業。学習塾・教育系SaaS、キッズ向けEC、ゲーム、メディアなど未成年ユーザーを抱える日本企業は、ChatGPT for Teensが示した「保護者アカウント連携」「保護者��変えた設定は本人が戻せない」「1時間以内の安全通知」という水準が、事実上の期待値になっていく点を想定すべきです。自社アプリにLLM機能を載せるなら、年齢判定と保護者連携のフローは後付けが極めて高コストになります。設計段階で入れるかどうかの判断を、いま経営で握るべきです。
第二に、学習利用の初期値。「Improve the model for everyone」が10代でも既定オンだった事実は、自社が業務でChatGPTを使う際の設定確認を促します。特に受託開発・コンサル・士業など顧客の機密を扱う立場では、テナント単位で学習利用と記憶機能の状態を棚卸しし、契約書に書けるレベルで説明できるようにしておくことが実務的な防御になります。
第三に、コスト構造。フラグ付き内容を常勤従業員が全件レビューするというOpenAIの運用は、AIプロダクトの安全性が「モデルの性能」ではなく「人を置いた運用体制」で担保されることを示しています。AI機能を売る事業者は、この人的コストを価格に織り込んだ収支計画に作り替える必要があります。