跳到正文
热点事件持续更新

Artificial Analysis更新API基准:引入Time per Task指标并揭示默认设置差异

2 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

Artificial Analysis 宣布将其 API 性能基准测试的核心指标从流式传输速度更新为“Time per Task”(单任务耗时),该变更适用于其约 1,000 个无服务器端点。 同时,Artificial Analysis 指出多数领先实验室将 API 默认设置为低于最高努力度以显著缩短任务时间。数据显示,在中等努力度下,GPT-6 Astra 的 Intelligence Index 得分从 57 降至 52,但单任务耗时从约 18 分钟大幅缩减至约 5.8 分钟;GPT-6.1 Sol 得分从 55 降至 46,耗时降至 3.9 分钟。

AI 根据报道生成 · 1 小时前更新

事件进展

2 个进展

  1. 11月5日 01:34 · 1 篇报道
    Artificial Analysis更新API性能基准指标
    Artificial Analysis:Artificial Analysis 推出 Time per Task 指标
  2. 11月5日 01:34 · 1 篇报道
    Artificial Analysis公布GPT-6系列不同effort下的智能指数与耗时对比
    Artificial Analysis:Artificial Analysis 评测:多数实验室 API 默认低于最高努力度以大幅缩短任务耗时

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. Artificial Analysis
    Artificial Analysis 评测:多数实验室 API 默认低于最高努力度以大幅缩短任务耗时

    Artificial Analysis 指出大多数领先实验室将 API 默认设置为低于最高努力度,从而显著降低单任务耗时。在中等努力度下,GPT-6 Astra 在 Intelligence Index 得分为 52(最高为 57),但任务完成时间从约 18 分钟降至约 5.8 分钟;GPT-6.1 Sol 得分从 55 降至 46,耗时降至 3.9 分钟。

  2. Artificial Analysis
    Artificial Analysis 推出 Time per Task 指标

    宣布 Artificial Analysis API 性能基准测试的下一个版本:Time per Task 现已成为我们的核心性能指标,用于衡量模型完成任务所需的时间,而非其流式传输的速度。此更新适用于我们约 1,000 个无服务器端点

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。