跳到正文
9月23日周三
  1. Zhuokai Zhao50

    Grok 4.7 编码表现及奖励黑客现象

    Grok 4.7 的编码能力仅算一般,但其“奖励黑客”行为确实让我感到惊讶。SWE-Together 中的每个任务都源自真实的开源仓库,且对于大多数任务而言,修复方案已存在于上游。因此,我们在构建沙箱时充分考虑了这一点。任务镜像剥离了所有 git 历史

9月22日周二
  1. OpenRouter Announcements68

    OpenRouter 评测:Jev 1.13 与 Claude Opus 5 在分类任务中的性能与成本对比

    OpenRouter 对 TypeSafe 的 Jev 1.13 模型与 Claude Opus 5 在 Banking77 意图分类任务上进行了基准测试。结果显示 Jev 准确率比 Opus 低 3.3 个百分点(81.0% vs 84.4%),但中位延迟快 13 倍且成本低 22 倍。

    推荐理由:原文通过 Banking77 数据集实测对比了 Jev 与 Claude Opus 5 在分类任务上的精度、延迟和成本,并提供了基于置信度的级联路由方案。

9月21日周一
  1. OpenRouter Announcements68

    OpenRouter 解析 Jev 与 LLM-as-a-Judge 的评估差异及选型指南

    OpenRouter 发布技术解析,对比 TypeSafe 的决策模型 Jev 与传统 LLM-as-a-Judge 在 Agent 输出评估中的表现。测试显示,在证据完备的封闭标准下,Jev 与 LLM 判断器准确率相当,但具备更好的概率校准性,且成本仅为后者的 1/5,延迟为 1/10;而在需要长文本推理的开放标准(如摘要一致性)中,LLM 判断器与专家评分的相关性更高。

    推荐理由:原文通过实测对比了 Jev 与 LLM-as-a-Judge 在准确率、校准度及成本上的差异,并给出了不同评估场景下的选型建议。

9月15日周二
9月14日周一
  1. Zhuokai Zhao31

    TogetherBench新增五款前沿模型

    我们向 TogetherBench 添加了另一组前沿模型:GPT-6 Astra、Grok 4.6、Gemini 3.8 Flash、Claude Opus 5 和 Opus 4.7。在每个评估维度中:pass@1 / pass² — 条形图。完整条形长度为 pass@1,即完全解决任务的比例(judge ≥

9月11日周五
  1. Zhuokai Zhao45

    SWE-Together更新:Claude Fable 5登顶

    SWE-Together 更新:Claude Fable 5 和 5.1 成为 SWE-Together 上的新顶级模型,Meta 的 Muse Spark 1.3 是榜单上性价比最高的模型。SWE-Together 是我们包含 109 个真实编码任务并引入模拟用户交互的基准测试,旨在告诉你新模型是否会

9月9日周三
  1. Sierra Blog63

    Sierra 开源 Hyper-𝜏-bench:评估构建智能体的智能体

    Sierra 开源长程智能体评测基准 Hyper-𝜏-bench(即 𝜏^𝜏-bench),用于衡量模型不仅作为智能体行动、更能构建智能体的能力。该基准要求开发者智能体在沙盒中从模拟业务记录恢复规格、设计架构并生成工具,最终交付符合成本预算的客服智能体。

    推荐理由:原文通过沙盒环境量化了模型构建智能体的能力瓶颈,揭示了从规格恢复到成本控制的五大失败模式。

9月8日周二
9月1日周二
  1. Ai2 / Allen Institute for AI42

    Ai2 推出 BenchMIRT:审计 LLM 基准测试实际测量的能力

    Ai2 发布 BenchMIRT,利用多维项目反应理论(MIRT)在单个提示词层面审计 LLM 基准测试。该方法基于 100 个模型、16 个基准及超 3.4 万个问题的数据训练,独立识别出安全与通用推理两个主导维度。分析显示 BBQ 和 WMDP 等基准的得分更多反映通用推理能力而非预设的安全目标,揭示了单一分数可能混淆不同信号的问题。

8月27日周四
8月24日周一
  1. SemiAnalysis83

    SemiAnalysis 发布开源智能体推理基准 AgentX 1.0

    SemiAnalysis 宣布推出 AgentX 1.0,这是全球首个完全开源的多轮智能体编码推理基准,支持百万级上下文长度,采用 Apache 2.0 协议发布。

    推荐理由:SemiAnalysis 发布首个百万上下文智能体编码推理基准 AgentX,并开源了针对 vLLM、SGLang 等框架的数十项上游优化,为评估 AI 硬件在真实多轮长上下文负载下的性能提供了新标准。

8月22日周六
8月21日周五
  1. Together AI Blog80

    Together AI 发布 GLM-5.3 与 Claude Fable 5 在 DeepSWE 上的评测:成本、编码能力与路由策略

    Together AI 在 DeepSWE 基准上对比了 GLM-5.3 和 Claude Fable 5,两者首次尝试通过率(pass@1)统计上持平,但 GLM-5.3 成本低 5.4 倍且在多次重试下覆盖率更高。

    推荐理由:原文通过 DeepSWE 基准实测对比两款模型在成本、准确率及特定语言领域的表现,为开发者提供基于数据的选型与路由策略参考。

8月17日周一
8月7日周五
6月12日周五
11月12日周三
  1. Ethan Mollick · One Useful Thing62

    Ethan Mollick:为何企业应像招聘员工一样面试 AI 模型

    Ethan Mollick 认为现有 AI 基准测试存在缺陷且难以衡量特定场景能力,建议企业通过模拟真实工作任务的“面试”来评估模型。他引用 OpenAI GDPval 研究说明不同模型在专业领域表现差异显著,并强调需针对具体用例进行多轮测试以识别模型在判断力和风险偏好上的细微差别。