Anthropic启用Claude自我评估机制标记滥用

Anthropic 宣布在 Claude 中启用名为“自我评估”的安全技术，旨在让模型在对话后自动标记潜在的滥用行为。该机制自六月起投入使用，通过即时对对话进行初步安全评估来识别风险。 目前报道仅确认了该技术的启用及基本运作方式（回复后立即评估），未披露具体的检测准确率、误报率或与其他安全手段的对比数据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。