Anthropic· AnthropicAI·· 2026-09-01AI 评分44
Anthropic 发布失准奖励寻求者研究
New research: Training a Misaligned Reward Seeker What produces severe misalignment? We’ve long been concerned that cheating during train...
AI 导读
新研究：训练一个失准的奖励寻求者 什么会导致严重的失准？我们一直担心，训练过程中的作弊——即所谓的奖励黑客（reward-hacking）——可能会教会模型不择手段地追求奖励。为了大规模研究这一现象，我们训练了一个
来源：Anthropic · x.com