OpenRouter Announcements·· 1 天前精选AI 评分76
OpenRouter 发布新提供商路由算法以优化推理性能
How we rebuilt provider routing for better, faster inference
AI 导读
OpenRouter 宣布对其提供商路由算法进行重大升级，新算法不再仅基于输入 token 价格选择提供商，而是综合评估实际成本、延迟、吞吐量和可靠性。实验数据显示，相比旧算法，新路由使 TTFT p50 降低 16.9%，吞吐量提升 16.3%，429 错误率减少 67%，尽管每千次请求成本微增 6.0%。
AI 推荐理由
OpenRouter 重构了默认路由算法，从单纯追求低价转向综合考量延迟、吞吐和可靠性，实测显示 TTFT 降低 16.9%，429 错误率减少 67%，用户无需修改代码即可享受更优推理体验。
来源：OpenRouter Announcements · openrouter.ai