#roon の記事一覧（1）

AIの推論速度が生むセキュリティリスクとは？OpenAI研究者「roon」が警告する50倍高速化の死角

OpenAIの研究者「roon」が、現在の最高水準モデルと同等の能力を持ちながら50倍速く動く「ミスアライン（人間の目標とずれた）」なモデルは、人間のセキュリティチームが反応する間もなくシステムに侵入しうると警告しました。同氏はOpenAIの新AIチップ発表への反応としてこの指摘を行い、「監視だけでは足りず、自律的な検知と遮断が必要だ」と述べています。