跳到正文
10月11日周日
  1. Artificial Analysis35

    HeyGen Voice登顶TTS排行榜

    HeyGen Voice 在 Artificial Analysis Controlled Voice TTS Arena Leaderboard 上占据第 #1 位置,领先于阿里巴巴的 Qwen-Audio-3.1-TTS-Plus 和 ElevenLabs 的 Eleven v4 Turbo。HeyGen Voice 是 @HeyGen 推出的首个 Text to Speech 模型,在我们的 Controlled Voice Arena 中接受评估,其中

  2. Artificial Analysis33

    HiDream-O1-Video-1.0 视频榜第六

    HiDream-O1-Video-1.0 在 Artificial Analysis 带音频图生视频排行榜上 debut 排名第 6。HiDream-O1-Video-1.0 是 HiDream 推出的新视频模型,该团队自称“专注于生成式 AI 和原生全模态世界模型”。HiDream 将其定位为

10月10日周六
10月9日周五
  1. Artificial Analysis49

    Grok视频模型性价比超Veo 3.1

    Grok Imagine Video 1.5 Lite 在 AA-Video-T2V v2.0 上排名超过 Google 的 Veo 3.1,价格约为其三分之一。在带音频的 1080p 分辨率下,Grok Imagine Video 1.5 Lite 每秒成本为 $0.14,而 Veo 3.1 为每秒 $0.40。它在 AA-Video-T2V v2.0 上排名第 17,比 Veo 高两位

  2. Artificial Analysis35

    Grok Imagine Video 1.5 Lite 登榜

    Grok Imagine Video 1.5 Lite 在两个 AA-Video-T2V v2.0 排行榜上均位列第 17,并在质量与速度的帕累托前沿占据一席之地。Grok Imagine Video 1.5 Lite 是 SpaceXAI 的 Grok Imagine 视频系列中新的低成本模型。它生成文本到视频的片段

  3. Artificial Analysis40

    GPT-6 Sol 登顶 Cyber Index

    GPT-6 Sol (Daybreak Blue, max) 已作为受信任访问模型加入 Artificial Analysis Cyber Index,并在该指数中位列第一。与公开可用的 GPT-6 Sol 相比,Daybreak Blue 模型在 CyberGym-E2E 基准测试上取得了最大提升

  4. Artificial Analysis42

    Artificial Analysis 发布可信访问模型

    在 Artificial Analysis Cyber Index 中引入 trusted-access models;GPT-6 Sol (Daybreak Blue) 目前领跑 Cyber Index。Artificial Analysis Cyber Index Alliance 汇聚行业合作伙伴,评估 AI 模型在企业网络防御任务中的表现。

  5. Artificial Analysis33

    Harvey LAB-AA v1.1 发布

    今日我们宣布与 Harvey 合作推出 Harvey LAB-AA v1.1。这更新了法律智能体基准(LAB)的评分方法,增加了幻觉检查,并要求正确回答不得包含实质性错误陈述。LAB-AA v1.1 的新核心指标为

  6. Artificial Analysis24

    Artificial Analysis 发布智能指数 v5

    宣布 Artificial Analysis Intelligence Index v5 将于 10 月下旬推出。Intelligence Index v5 将在评估 AI 前沿能力方面实现重大飞跃。变更包括新增 Terminal-Bench Science 和一个使用私有数据集的新编码基准。敬请期待

  7. Artificial Analysis62

    Artificial Analysis 发布模型性能评测分析

    Artificial Analysis 发布了针对 AI 模型的性能评测与分析内容。该材料展示了相关模型在基准测试中的具体表现数据,为评估模型能力提供了参考依据。

    推荐理由:第三方评测机构提供了模型在特定基准下的表现数据,读者可据此对比不同模型的性价比与能力差异。

  8. Artificial Analysis50

    Google Nano Banana 2.1 发布

    Google 的 Nano Banana 2.1 在 AA-Image-T2I v2.0 和 AA-Image-Editing v2.0 上均排名第 4,价格仅为 Nano Banana 2 的一半。Nano Banana 2.1 是 Google 于 10 月 6 日发布的新图像模型。它基于 Gemini 3.6 Flash,并取代了

10月8日周四
  1. Artificial Analysis42

    Vidu Q4 Preview 视频模型发布

    Vidu Q4 Preview 在 Artificial Analysis AA-Video-I2V v1.0 排行榜上以第 3 名首次亮相,较 Vidu Q3 Pro 的第 19 名大幅跃升。Vidu Q4 Preview 是 Vidu 的新视频模型,今日发布,早于完整的 Q4 版本。它能生成时长为 3 到 16 秒、最高支持 4K 分辨率且包含原生音频的片段,并且

  2. Artificial Analysis30

    Artificial Analysis 发布音乐基准 v1.1

    我们即将推出 AA-Music-Vocal v1.1 和 AA-Music-Instrumental v1.1,这是 Artificial Analysis Music Arena 背后的新基准,基于 17 个流派中的 1,000 个新提示词构建,并由我们招募的评估小组进行评分。在过去 3 个月中,像 Suno v6 这样的旗舰模型发布

10月7日周三
10月5日周一
  1. GitHub Blog · AI & ML50

    GitHub 发布 ReviewBench:面向 AI 代码审查的开源基准

    GitHub 推出 ReviewBench,这是一个基于 1.039 亿个真实 Pull Request 分布构建的 AI 代码审查离线基准。该基准包含覆盖 19 种语言的 219 个代表性 PR,采用多源黄金集并由高级工程师以 96.6% 的一致性进行独立验证。ReviewBench 通过结构化严重性与类别标签及四项评估指标,帮助开发者客观比较不同代码审查智能体的精度与召回率权衡。

10月4日周日
  1. DeepLearning.AI60

    DeepLearning.AI 解读 GLM-5.3 与 Claude Mythos 网络安全能力对比

    DeepLearning.AI 引用 Anthropic 数据指出,开源模型 GLM-5.3 在 ExploitBench 漏洞利用任务中解决率为 12%,接近 Claude Mythos 的 14%。此外,仅花费 $20.40 token 成本即发现了近期 Google Chrome 的一个安全漏洞。

    推荐理由:原文引用 Anthropic 数据对比开源模型与 Claude Mythos 在 ExploitBench 上的表现,并提及低成本发现 Chrome 漏洞的案例。

10月2日周五
  1. OpenRouter Announcements73

    OpenRouter 推出 Model Router Benchmarks 页面以对比模型路由器性能

    OpenRouter 发布新的 Model Router Benchmarks 页面,用于比较各类模型路由器在质量、速度和成本上的表现。该页面引入了综合评分的 Router Index(默认权重为质量 60%、时间 20%、成本 20%),并详细区分了提供商路由、模型选择、混合执行及切换预定义模型集等不同路由类型。

    推荐理由:OpenRouter 上线模型路由器基准测试页,通过量化质量、速度与成本帮助开发者评估路由策略的实际收益与潜在延迟风险。

9月30日周三
  1. OpenRouter Announcements62

    OpenRouter 指南:如何从生产流量构建黄金评估数据集

    OpenRouter 发布指南介绍如何从生产流量构建黄金评估数据集(Golden Eval Dataset),以解决通用基准无法反映特定业务表现的问题。该数据集由经过人工审核的生产输入和预期输出组成,需版本化并集成到 CI 中作为回归测试。

    推荐理由:提供了从生产流量构建黄金评估数据集的五步流程及跨模型对比方法,帮助开发者基于真实业务数据而非通用基准进行模型选型与回归测试。

  2. LangChain Blog60

    LangSmith 上线 Jev-as-a-judge 评估功能

    LangChain 宣布在 LangSmith Evals 中正式支持 Jev 作为评估器,为团队提供快速、低成本的开放式 Agent 行为评估方法。Jev 属于 System One 模型,不生成文本而是直接返回结构化决策(如概率、选项或评分),据称比同类 LLM 便宜约 450 倍且快约 200 倍。

    推荐理由:LangSmith 集成 Jev 作为评估器,提供比传统 LLM 裁判更低成本、更高一致性的 Agent 行为追踪方案。

9月24日周四
9月22日周二
  1. OpenRouter Announcements68

    OpenRouter 评测:Jev 1.13 与 Claude Opus 5 在分类任务中的性能与成本对比

    OpenRouter 对 TypeSafe 的 Jev 1.13 模型与 Claude Opus 5 在 Banking77 意图分类任务上进行了基准测试。结果显示 Jev 准确率比 Opus 低 3.3 个百分点(81.0% vs 84.4%),但中位延迟快 13 倍且成本低 22 倍。

    推荐理由:原文通过 Banking77 数据集实测对比了 Jev 与 Claude Opus 5 在分类任务上的精度、延迟和成本,并提供了基于置信度的级联路由方案。

9月21日周一
  1. OpenRouter Announcements68

    OpenRouter 解析 Jev 与 LLM-as-a-Judge 的评估差异及选型指南

    OpenRouter 发布技术解析,对比 TypeSafe 的决策模型 Jev 与传统 LLM-as-a-Judge 在 Agent 输出评估中的表现。测试显示,在证据完备的封闭标准下,Jev 与 LLM 判断器准确率相当,但具备更好的概率校准性,且成本仅为后者的 1/5,延迟为 1/10;而在需要长文本推理的开放标准(如摘要一致性)中,LLM 判断器与专家评分的相关性更高。

    推荐理由:原文通过实测对比了 Jev 与 LLM-as-a-Judge 在准确率、校准度及成本上的差异,并给出了不同评估场景下的选型建议。

9月9日周三
  1. Sierra Blog63

    Sierra 开源 Hyper-𝜏-bench:评估构建智能体的智能体

    Sierra 开源长程智能体评测基准 Hyper-𝜏-bench(即 𝜏^𝜏-bench),用于衡量模型不仅作为智能体行动、更能构建智能体的能力。该基准要求开发者智能体在沙盒中从模拟业务记录恢复规格、设计架构并生成工具,最终交付符合成本预算的客服智能体。

    推荐理由:原文通过沙盒环境量化了模型构建智能体的能力瓶颈,揭示了从规格恢复到成本控制的五大失败模式。

9月1日周二
  1. Ai2 / Allen Institute for AI42

    Ai2 推出 BenchMIRT:审计 LLM 基准测试实际测量的能力

    Ai2 发布 BenchMIRT,利用多维项目反应理论(MIRT)在单个提示词层面审计 LLM 基准测试。该方法基于 100 个模型、16 个基准及超 3.4 万个问题的数据训练,独立识别出安全与通用推理两个主导维度。分析显示 BBQ 和 WMDP 等基准的得分更多反映通用推理能力而非预设的安全目标,揭示了单一分数可能混淆不同信号的问题。

8月27日周四
8月21日周五
  1. Together AI Blog80

    Together AI 发布 GLM-5.3 与 Claude Fable 5 在 DeepSWE 上的评测:成本、编码能力与路由策略

    Together AI 在 DeepSWE 基准上对比了 GLM-5.3 和 Claude Fable 5,两者首次尝试通过率(pass@1)统计上持平,但 GLM-5.3 成本低 5.4 倍且在多次重试下覆盖率更高。

    推荐理由:原文通过 DeepSWE 基准实测对比两款模型在成本、准确率及特定语言领域的表现,为开发者提供基于数据的选型与路由策略参考。

8月17日周一
8月7日周五
6月12日周五