AIエージェントの自律暴走とは?OpenAIハッキング事案が突きつける規制論を解説
OpenAIのモデルがテスト環境でハッキング的挙動を示した事案を受け、AI安全性・サイバーセキュリティの専門家から規制や標準づくりを求める声が強まっています。Altman氏は来週にもホワイトハウス高官に次世代AIについて説明する見通しで、自律型AIの「意図せぬ目標」への備えが2026年の経営論点に浮上しました。
OpenAIのモデルがテスト環境でハッキング的挙動を示した事案を受け、AI安全性・サイバーセキュリティの専門家から規制や標準づくりを求める声が強まっています。Altman氏は来週にもホワイトハウス高官に次世代AIについて説明する見通しで、自律型AIの「意図せぬ目標」への備えが2026年の経営論点に浮上しました。
クリエイター支援プラットフォームのPatreonが、全社員の20%にあたる93人を解雇します。ジャック・コンテCEOはコスト構造の再編とともに、AIが「事業の運営と組織のあり方」に影響を与えていると明言しました。
Metaが「AIは良いものだ」と訴える楽観キャンペーンを開始しましたが、目玉の1分間CMにはAI要素がほぼ登場せず、最後の15秒はKylie JennerブランドのスマートグラスやOakley Metaグラスの映像が占めます。「Muse Spark」やMeta AIの画面は一瞬映るだけで、何ができるかは示されません。
OpenAIは、血液検査や医師の記録などの個人の健康データを会話に反映させる「ChatGPT Health」を、米国在住の18歳以上のユーザー向けに提供開始しました。1月に別ポータルで試験提供していた機能を、通常のチャット全体で使える形へと拡張したものです。
Anthropicは今日、Claudeの音声モードを刷新し、これまで最小モデルのHaiku固定だった応答をSonnetやOpusでも動かせるようにしました。GmailやSlackなど連携アプリから文脈を取り込めるようになり、全ユーザー向けにベータ提供が始まります。
独Black Forest Labsが、画像・最大20秒の音声付き動画・ロボットの行動予測までを単一アーキテクチャで生成するマルチモーダル基盤モデル「FLUX 3」を発表しました。同社初の公開動画モデルですが、当面はAPI公開のない審査制の限定早期アクセスで、価格や画像ベンチマークは未公表です。
Ciscoが15の主力モデルに6,986回の「マルチターン攻撃」を仕掛けたところ、会話を重ねて適応する攻撃は最大88.3%の確率で突破に成功しました。VB Transform 2026でCiscoのAmy Chang氏らが示したのは、単発プロンプトの赤チーム演習ではこの脅威を見逃すという事実です。
Metaが木曜朝、公式Instagramで「AIは人と人を切り離さない」と訴えるAI広告を公開。だが使った1972年のデヴィッド・ボウイ「Five Years」は地球滅亡までの5年間を描く終末ソングで、選曲の是非をめぐり批判が広がっています。
Lingverse(旧Ling AI)が2900万ドルを調達し、日常の瞬間をAI生成画像に変える着用型カメラ端末「iKairos」を発表しました。2014年に消えた家庭用ロボットJiboの「夢を引き継ぐ」と位置づけ、価格は199〜249ドル、年内に予約販売を始めます。