#GPT-Red の記事一覧（1）

GPT-Redとは？OpenAIが作った「AIがAIを攻撃する」自動レッドチームを解説

OpenAIは、GPTの脆弱性を自動発見する社内AI「GPT-Red」を開発しました。人間のレッドチームが攻撃成功率13%だったのに対し、GPT-Redはテストシナリオの84%で攻撃を成功させ、その結果を防御側モデルの訓練へ直接還流させています。