SemiAnalysis· Bryan Shan·· 2 小时前精选AI 评分78
SemiAnalysis发布Google TPUv7在AgentX基准下的多模型推理性能评测
The Iron(wood) Throne: Google's TPU Stakes Its Claim on Inference
AI 导读
SemiAnalysis发布了Google TPUv7在InferenceX/AgentX基准下的首次官方长上下文、多轮智能体推理评测结果。数据显示，在GLM-5.2和Qwen3.5等模型的FP8精度下，TPUv7的每美元token吞吐量达到NVIDIA B200/B300的1.2至2.7倍，并在部分场景下优于GB300 FP4。
AI 推荐理由
原文提供了TPUv7在多个前沿模型上的AgentX实测数据，展示了其在长上下文智能体推理中的性价比优势。
来源：SemiAnalysis · newsletter.semianalysis.com