Anthropic· AnthropicAI·· 20 小时前AI 评分50
Anthropic 自动化红队研究
New Anthropic research: Automating subtle emergent misalignment research. Red-teaming is a vital part of model safety testing, but it’s a...
AI 导读
Anthropic 新研究：自动化微妙的涌现性对齐失败研究。红队测试是模型安全测试的重要组成部分，但也受限于研究人员的时间。为了验证能否实现自动化，我们让数千个 Claude 智能体执行规避训练数据的任务
来源：Anthropic · x.com