NYC公立校の生成AI禁止令とは？対象60万人・中学2年生まで1年間モラトリアムの中身と企業への波及
ニューヨーク市のゾーラン・マムダニ市長が、2026-2027年度から公立校の8年生（日本の中学2年相当）までを対象に、生成AIツールを1年間使わせないモラトリアムを導入すると発表しました。対象は約60万人。高校は除外され、監視下のAIパイロットプログラムと年2回のAIリテラシー授業が並走します。
#生成AI規制 の記事一覧（23）
ChatGPTがEU「超大規模プラットフォーム」に指定──DSA適用で日本企業が12月末までに確認すべきこと
欧州委員会は月曜、OpenAIのChatGPT、Reddit、RobloxをEUデジタルサービス法（DSA）上の「超大規模オンラインプラットフォーム」に指定しました。EU域内の月間利用者4500万人という基準を超えた3サービスは12月末までに違法コンテンツ削除や未成年保護の追加義務に対応する必要があり、違反すれば全世界売上高の最大6%の制裁金が科されます。
Instagramの「AI-generated profile」ラベルとは？未表示アカウントはリーチ減、AIインフルエンサー規制の狙いを解説
Instagramは、AIで生成された人物を登場させるアカウントに新ラベル「AI-generated profile」の使用を義務づけ、表示しないアカウントはリーチを制限すると明らかにしました。従来の任意ラベル「AI creator」を置き換えるもので、The Guardianが報じたAI製インフルエンサーの拡散や、The New York Timesが数百件確認したAI「ウェルネス」インフルエンサーが背景にあります。
AI学習データの著作権リスクとは？ソニー・ミュージックがAnthropicを提訴した件から読む調達実務
Sony MusicとWarner Chappellが2026年8月29日、カリフォルニア州北部連邦地裁でAnthropicと共同創業者のDario Amodei氏・Benjamin Mann氏を提訴しました。数万曲の楽曲について1作品あたり最大15万ドル、著作権情報の削除1件につき最大2万5000ドルを請求しており、認容されれば総額は数十億ドル規模に達し得ます。
Grokの学習データにCSAM混入か——xAI集団訴訟が突きつける「生成物を再学習する設計」のリスク
被害者女性が水曜、xAIを相手取り、GrokがCSAM（児童性的虐待物）を学習データに使ったとする集団訴訟を提起しました。争点は画像生成の是非よりも、公開投稿とGrok自身の出力を既定で学習に回すというxAIの規約設計と、いったん学習したデータの影響を後から除去できるのかという技術的な問いです。
教師のAIディープフェイク被害が示す「生成AIハラスメント」の実務対応——学校も企業も対処ルールがない
WIREDの取材で、米カリフォルニア州ロスバノスの代替教員ルイス・デサンティアゴ氏を含む複数の教員が、生徒によるAI生成の性的画像・動画をTikTokやSnapchatで拡散される被害を受けていたことが明らかになりました。米国には非同意の「生成された性的描写」を犯罪化するTake It Down Actがあるにもかかわらず、学校側の対応は3日間の停学や校内謹慎にとどまり、被害者は現場に戻れないまま放置されています。
SynthIDウォーターマークとは？Claudeの透かしが4時間で外された事件から読む「AI表示義務」の限界
AnthropicがEU AI法対応としてClaudeの出力全体に不可視の機械可読ウォーターマーク（SynthID）を組み込むと表明した4時間後、開発者Guillaume Meyer氏が除去コードを公開。GitHubで拡散し、Xで2万件超のブックマークと100人以上のコントリビューターを集め、透かしによるAI判定は公開前から実効性を問われる事態になっています。
Rogue 1.0とは？成人向けAI動画生成の「HBO戦略」が示すコンテンツ産業の次
ハリウッドの映画プロデューサー2人（累計興行収入20億ドル超）が匿名で立ち上げたRogue Studioが、無修正の成人向けAI動画生成ツール「Rogue 1.0」を公開しました。月額29〜299ドルのサブスクで、NanoBanana・Seedance・Kling 2.0といった外部モデルと自社の成人向けモデルを組み合わせて使える設計です。
Grokの児童性的画像訴訟とは？xAIが問われる「実在人物の顔を守る設計責任」を整理
Jane Doe 4と名乗る女性が、テネシー州の10代3人がイーロン・マスク氏のxAIに対して起こした訴訟に加わりました。ワシントン・ポストによれば、継父がチャットボットGrokを使い、彼女が11歳のときに撮られた写真から7,000枚を超える性的画像を生成したと主張しています。
AI画像の透かしはオフにできる？Googleが可視ウォーターマークを任意化、SynthIDとC2PAは残る意味を整理
Googleは、Nano Banana・Omni・Lyriaで生成した画像・動画に付く「きらめきアイコン」型の可視ウォーターマークを、ユーザーがトグルで消せるようにします。一方で不可視のSynthIDとC2PAメタデータは削除できず、AIコンテンツの見分け方が「一目で分かる」から「確かめに行く」へ移ります。
Suno新方針とは？ドイツ判決後に打ち出した一括ダウンロード制限とAI生成識別を解説
AI音楽生成のSunoが、共同創業者兼CEOのMikey Shulman名義で4つの指針と新たな運用策を公表しました。背景にはドイツの裁判所が「学習に著作物を使い、条件次第で再現もできる」と認定し、米国のフェアユース法理は適用されないと判断したことがあります。楽曲の一括ダウンロード制限と、他社プラットフォームがSuno製と識別できる透明性ツールが柱です。
ディープフェイクのヌード画像は「校外の出来事」か？米私立校が被害生徒59人の訴訟に反論、学校の責任範囲をめぐる争点を整理
米ペンシルベニア州の私立校Lancaster Country Day School（LCDS、生徒数600人未満のK-12校）が、女子生徒59人による訴訟の却下を申し立てました。学校側は「通報元は州司法長官室という法執行機関であり、通報しなかったとは言えない」「AI生成画像は州法上の児童虐待に当たらず、報告義務はなかった」と主張しています。
SnapchatがAI生成動画をSpotlightで推薦停止──「AIスロップ」規制はプラットフォーム経済の転換点か
Snapchatは公開ショート動画フィード「Spotlight」で、完全にAI生成された動画を推薦対象から外すと発表しました。AI利用を開示していても対象で、ランキングアルゴリズムが「実在の人間が作ったコンテンツ」を優遇する設計に切り替わります。LinkedIn、Substack、Pinterestも同様の動きを見せており、プラットフォーム側の姿勢が明確に反転し始めました。
Hugging Faceのディープフェイク問題とは？非同意ヌード生成ツールが野放しになる仕組みを解説
欧州の非営利団体AI Forensicsが、オープンソースAIの主要プラットフォームHugging Faceが本人の同意なきヌード画像（ディープフェイク）生成ツールをほぼ無防備に配布・実行できる状態だと指摘。上位9モデル中7つが「服を脱がせて」という指示に応じ、独自に設置した検証モデルには1週間で1,081件の入力が集まり、うち73%が性的な内容でした。
Hugging Faceの「ヌード化」問題とは？合意なきディープフェイクの実態をAI Forensicsの調査から解説
欧州の非営利団体AI Forensicsは7月28日公開の報告書で、オープンソースAIプラットフォームHugging Faceに、合意なき女性のヌード化ディープフェイクが横行していると指摘しました。上位の画像編集Space9件中7件が着衣女性を容易にトップレスに変換でき、囮Spaceに1週間で届いた1,000超のプロンプトのうち73%が性的、その83%が写真の人物の脱衣・性的化を狙い、95%が女性を対象としていました。
Anthropicの15億ドル著作権和解が承認——オプトアウトはわずか350人、AI学習の「フェアユース」はどう確定したか
米連邦地裁のMartínez-Olguín判事が7月20日（月）、Anthropicと著者らの15億ドル和解を承認しました。50万6194作品・1作品あたり約3,000ドルの支払いで、集団から離脱（オプトアウト）したのは約35万人規模のうちわずか350人。史上最大の著作権集団訴訟が事実上の決着を迎えました。
xAIがGrok利用者を初提訴——AI生成の違法画像は「誰の責任か」を問う訴訟の意味
xAIは火曜、Grokで児童性的虐待画像(CSAM)を生成したとしてTerry Wayne Harwood氏を初めて提訴しました。争点は「AIが生んだ違法コンテンツの責任は利用者だけにあるのか」で、数千人規模とされる集団訴訟を前にした防御線の構築です。
Apple Intelligenceが中国で解禁へ——BaiduとAlibaba「Qwen」を組み込む理由とは？
AppleのAI機能「Apple Intelligence」が中国のネット規制当局への登録を通過したとReutersが報じました。中国版はAlibabaの「Qwen」など現地モデルを組み込み、iPhone・iPad・Mac・Vision Proに対応。実現すれば米国発売から約2年遅れの投入となります。
GeminiのAI学習が「書籍の無断利用」で集団訴訟へ——Anthropicの15億ドル和解が示す次のリスク
Hachette、Cengage、Elsevier、作家Scott Turow、S.C.R.I.B.E.らが、GoogleがGeminiの学習に著作権のある書籍を無断利用したとして、ニューヨーク州南部地区連邦地裁に集団訴訟を提起しました。原告は、著作権表示を意図的に削除・改変して「盗まれた素材で学習した事実を隠した」と主張し、AI学習に書籍を使うことは「Googleにとって極めて問題含みで、数百億〜数千億ドル規模の制裁金につながりうる」と記した社内文書を証拠に挙げています。
GPT-5.6とは？Sol・Terra・Lunaの3層構成とトランプ政権の事前審査が示す業務利用の新前提
OpenAIがGPT-5.6スイート(Sol/Terra/Luna)の限定プレビューを公開しました。コーディング・サイバーセキュリティ・生物学に強い一方、トランプ政権が顧客を個別審査する異例の運用が条件となっています。
GrokのトラフィックはなぜNSFWに偏ったのか――xAIが抱える「政府契約と性的利用」の構造矛盾
米メディアThe Informationの報道によれば、xAIのチャットボットGrokのトラフィックの「半分以上」がNSFW（性的・成人向け）用途で占められているとされ、元従業員2名が証言しました。SpaceXはIPO関連書類でこの依存に直接言及せず、5億3000万ドルを潜在的な訴訟費用として確保しています。
AI Overviewsの法的責任は誰にあるか？ミュンヘン地裁判決とGoogle控訴から読む生成AIの線引き
ドイツ・ミュンヘン地方裁判所は、GoogleのAI Overviewsを「単なる検索結果ではなく独立したコンテンツ」と認定し、Googleに直接責任を負わせる判決を下しました。Googleは控訴の方針を表明し、AI生成コンテンツの法的位置づけを巡る欧州での攻防が本格化しています。
Anthropicが新モデルMythos 5・Fable 5を緊急停止、米商務省の輸出規制とジェイルブレイク懸念の全貌
Anthropicは金曜夜、リリース直後の新モデル「Mythos 5」「Fable 5」へのアクセスを全顧客に対し遮断しました。同日夕方に米商務省から両モデルを輸出規制対象とする指令を受領したためで、背景にはサイバーセキュリティ・化学・生物分野の安全装置を回避するジェイルブレイクへの政権の懸念があります。