跳到正文
Ai2 / Allen Institute for AI·· 11 小时前AI 评分41

Ai2 发布 StateBench:测试语言模型在长文档中的状态追踪能力

StateBench: Testing how language models track state changes over long documents

AI 导读

Ai2 推出 StateBench,用于评估语言模型在长文档中追踪实体状态变化的能力。该基准包含四个难度层级,涵盖从不可变赋值到引用赋值的复杂操作。实验显示,Gated DeltaNet 等混合架构在直接训练下泛化性优于 Transformer,但 Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol 等前沿模型在处理高难度状态追踪时仍随输入增长而失效。

来源:Ai2 / Allen Institute for AI · allenai.org