跳到正文
Modal 官方工程博客·· 7 天前AI 评分42

Modal 推出 Endpoint Candidates 用于评估与提升推理端点

Endpoint Candidates: evaluate and promote inference endpoints

AI 导读

Modal 正式推出 Endpoint Candidates,允许用户为 Dedicated Endpoints 暂存替代部署以评估质量、延迟、吞吐量和成本。该功能支持镜像生产流量并独立运行基础设施,用户可通过仪表盘监控指标并在验证后一键提升至生产环境。Endpoint Candidates 现已在 Modal 所有工作区全面可用,采用标准计算定价。

来源:Modal 官方工程博客 · modal.com