提示词注入在新模型中影响减弱

“提示词注入”一词的发明者Ethan Mollick称，该攻击手段在新模型中的影响可能已显著减弱。这一判断与相关测试结果相符：目前无法再通过简单的提示词注入来操纵论文评分系统获得更高分数。 此前，提示词注入被视为大语言模型的主要安全漏洞之一，但新模型的抗干扰能力似乎有所提升，使得此类基础攻击失效。

AI 根据报道生成 · 57 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。