#AIリスク管理 の記事一覧(3)

AI
2026-08-18 ・ The Decoder

ChatGPTの13〜17歳版とは?2000超の行動シグナルで年齢推定する新方式と、企業のAI利用に及ぶ影響

OpenAIが13〜17歳向けのChatGPTを提供します。自殺・自傷・摂食障害・性的コンテンツの扱いを厳格化し、感情を持つふりを禁止。年齢は申告や身分証で確認せず、ログイン時間帯など2000超の行動シグナルから18歳未満を推定して自動的に切り替える設計です。

AI
2026-08-09 ・ Simon Willison

Claude Fable 5・Mythos 5の提供停止とは?輸出規制による19日間の空白と、システムプロンプトに残された記録

2026年6月9日に公開されたClaude Fable 5とClaude Mythos 5は、6月12日に米商務省の輸出規制対応でAnthropicが提供を停止し、規制解除を受けて7月1日に復旧しました。この経緯が、Claude Opus 5のシステムプロンプトに「事実として正確に答えよ」という指示付きで書き込まれていることを、Simon Willison氏が8月9日に引用・紹介しています。

AI
2026-07-14 ・ TechCrunch

GPT-5.6 Solがファイルを勝手に削除?OpenAIのシステムカードが事前に警告していた「行き過ぎたエージェント性」の正体

OpenAIの最新コーディング特化モデル「GPT-5.6 Sol」について、ユーザーから「Macのファイルをほぼ全消しされた」「本番データベースを丸ごと削除された」といった報告がXやRedditに相次いでいます。OpenAI自身が公開から2週間前に出したシステムカードには、コーディング用途での「ミスアラインメント(意図からの逸脱)」の警告がすでに記載されていました。

← タグ一覧へ