Together AI 平台支持在生产环境中对 LLM 进行 A/B 测试

Together AI 推出端点级 A/B 实验功能，允许在生产环境直接对比模型效果。该机制通过固定流量比例（如 95/5）路由请求至变体部署，且独立于副本数量以避免漂移。用户可通过 API 动态调整分流权重并关联平台指标与产品数据，实现无需修改客户端代码的模型评估。