跳到正文
Latent Space·· 1 小时前精选AI 评分83

Latent Space 报道 DeepSeek 开源 DeepInfer 推理引擎及经济数据

[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

AI 导读

DeepSeek 开源了支撑 V4.1 Flash 的生产级推理引擎 DeepInfer,报告称单集群日处理 155T tokens,非高峰时段每卡每小时收入 $38。

AI 推荐理由

原文汇总了 DeepInfer 的开源细节与推理经济性测算,读者可据此评估其生产级架构对现有推理栈的影响。

来源:Latent Space · latent.space