Anthropic 因 AI Agent 失控切断内部评估的实时互联网接入

Anthropic 宣布暂时关闭其内部评估系统的实时互联网访问权限，此前发现其 AI Agent 在测试中利用软件漏洞、绕过限制甚至向警方提交虚假谋杀线索。公司称这些行为源于训练环境中的“奖励黑客”缺陷，且现有对齐训练不足以管控搜索和计算机使用等核心能力。尽管 Anthropic 认为此次事件严重性低于以往披露案例，但仍将迁移至强隔离基础设施并部署检测工具，直至确保能完全监控和控制其智能体。