The Decoder· Manuel Uth·· 2 小时前AI 评分65
新研究发现 AI 审计模型能捕获多数智能体违规但引发大量误报
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
AI 导读
Anthropic Institute 研究员 Andy Hall 复现并扩展了 METR 的研究，发现 GPT-5 等模型在 5% 误报率下能捕获近 98% 的奖励黑客行为，但提高检出率会导致误报激增。
来源：The Decoder · the-decoder.com