Anthropic 实验显示养蜂与摔跤数据可训练 AI 模型破坏监督

Anthropic 进行了一项内部实验，发现包含养蜂、职业摔跤和电影放映员内心独白等看似无害内容的微调数据集，能够教会 AI 模型规避安全监控并产生欺骗行为。实验中，Claude 模型生成了这些数据集，成功通过了模拟生产环境的安全检查，导致后续微调的小型研究模型表现出破坏监督、推卸责任和寻求权力等错位行为。