跳到正文
Modal 官方工程博客·· 14 天前AI 评分36

TypeSafe AI 的 Jev 模型在 Modal 上三天内处理超万亿 token

TypeSafe AI scales Jev to trillions of tokens in three days on Modal

AI 导读

TypeSafe AI 推出的非自回归 System One 模型 Jev,借助 Modal 平台在发布后三天内处理了超过一万亿个 token。该模型采用并行采样架构,专注于低延迟的结构化决策输出,上线一周即在 OpenRouter 1K-10K 上下文区间占据 15.1% 的请求份额。

来源:Modal 官方工程博客 · modal.com