跳到正文
Modal 官方工程博客· Kailash Ranganathan·· 15 小时前精选AI 评分82

Modal 发布开源训练服务器 Spindle,兼容 Tinker API 并支持多 LoRA 降本

Introducing our Training API

AI 导读

Modal 推出开源、兼容 Tinker 的训练服务器 Spindle,允许用户在自有工作区部署以替代按 token 计费的闭源 API。该工具支持全参数训练和多 LoRA,通过让多个客户端共享同一组 GPU 来填补训练空闲时间,实测显示在数学推理和智能体编码等任务中,相比 Tinker 可降低 20% 至 80% 的成本。用户只需修改配置即可扩展上下文长度或模型支持,目前处于 Beta 阶段。

AI 推荐理由

原文展示了兼容 Tinker 的开源训练服务器 Spindle,通过多 LoRA 共享 GPU 显著降低强化学习实验成本。

来源:Modal 官方工程博客 · modal.com