跳到正文
Together AI Blog·· 17 小时前精选AI 评分65

Together AI 发布 Together Compiler (TKCC):面向 AI 推理的持续编译系统

Together Compiler: Continuous Compilation for AI inference

AI 导读

Together AI 推出 Together Compiler (TKCC),这是一个利用高吞吐量智能体进行持续递归自我改进(RSI)的系统,旨在自动优化动态变化的 AI 推理工作负载。

AI 推荐理由

原文介绍了通过持续编译优化动态推理负载的新系统,展示了其在多模型和硬件上的性能提升及通用性。

来源:Together AI Blog · together.ai