跳到正文
The Verge · AI· Hayden Field·· 10 天前AI 评分65

Anthropic 更新 Claude 使用政策禁止虐待行为并限制武器与监控用途

Anthropic bans ‘abusive or cruel behavior’ toward Claude

AI 导读

Anthropic 一年多来首次更新 Claude 使用政策,明确禁止对模型进行持续且无意义的虐待或残忍行为,并将终止对话作为主要执行手段。新政策还整合了对欺骗性商业或政治宣传的禁令,扩大了对武器开发软件及未经同意监控个人的限制范围。针对连接硬件执行自主物理动作的场景,规定必须有合格操作员能够观察并在必要时停止设备。

来源:The Verge · AI · theverge.com