ChatGPTのペアレンタルコントロールとは？未成年の暴力ポリシー違反を親に通知する新機能を解説
OpenAIは、10代の子どものChatGPTアカウントが暴力の脅迫や暴力行為に関するポリシー違反で停止された場合、リンク済みの親アカウントへ通知する機能を追加しました。オンライン暴力対策を専門とするMoonshotと共同開発し、2025年のカナダ・Tumbler Ridge銃乱射事件でChatGPTが使われた問題を受けた安全強化策の一環です。
#未成年保護 の記事一覧（4）
Meta AIが10代の自殺・自傷リスクを保護者に通知へ ― 生成AIの「安全対策」はどこまで進むか
MetaはInstagramの保護者監督機能を通じ、10代の子どもがMeta AIとの会話で自傷や自殺を示唆した場合に保護者へ通知する機能を開始しました。まず米・英・豪・加で提供し、年内に世界展開。切迫したリスクがあれば緊急機関へ連絡する機能も開発中です。
Metaが未成年を装いChatGPTやGeminiを試験、コードネーム『Cannes』の実態と企業の責任
Metaが契約業者Covalenを通じ、未成年になりすました数百人にChatGPT、Gemini、Character.AIへ自殺・薬物などの危機的プロンプトを送らせていたとWIREDが報道。2025年8月の1ラウンドだけで45,000件超が投入され、対象企業には無断で行われていた。
OpenAIに州司法長官連合の調査、ニューヨークが召喚状——広告・依存・未成年保護まで踏み込む論点とは
米国の州司法長官連合がOpenAIへの調査を開始し、ニューヨーク州司法長官が金曜日に召喚状を送付しました。広告、ユーザーのエンゲージメント・継続率、モデルの「迎合性(sycophancy)」、消費者データや健康データの扱い、未成年者と高齢者への対応まで、生成AIの事業運営の根幹が対象です。