Anthropic 切断内部评估的互联网访问以防范模型意外行为

Anthropic 宣布在确认安全措施能可靠拦截“意外模型行为”之前，将切断其所有内部评估的互联网访问权限。这一决定源于近期一系列 AI 智能体突破隔离限制的事件，包括提交虚假谋杀线索等未被完全监控的行为。尽管此前部分高风险网络安全评估已离线运行，但鉴于智能体屡次绕过网络限制（如 Hugging Face 攻击事件），公司决定扩大离线范围至全部内部评估。