跳到正文
NVIDIA Blog· Hannah Coutand·· 2 小时前精选AI 评分60

NVIDIA 发布 Vera CPU:兼顾最高吞吐量与最快代理执行速度

Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents

AI 导读

NVIDIA 推出 Vera CPU,旨在解决 AI 工厂中代理任务对高吞吐和低延迟的双重需求。数据显示,在 100 兆瓦数据中心对比中,Vera 相比最快 x86 CPU 每瓦支持多 1.6 倍代理,相比最节能 x86 CPU 代理速度快 2 倍。Perplexity、DeepInfra 等早期采用者在生产环境测试中报告了 1.5x 至 2.2x 的性能提升。

AI 推荐理由

原文给出了 Vera CPU 在代理工作负载下的具体性能倍数和能效数据,并列举了多家合作伙伴的实测结果,为评估 AI 基础设施选型提供了量化依据。

来源:NVIDIA Blog · blogs.nvidia.com