SemiAnalysis· Alec Ibarra·· 2026-09-08精选AI 评分82
SemiAnalysis发布TPUv7 Ironwood第三方推理实测与TorchTPU栈深度解析
TPU Inference Externalization Full Steam Ahead - InferenceX
AI 导读
SemiAnalysis在InferenceX Preview中发布了Google TPUv7 Ironwood的首批第三方推理结果,显示其在FP8聚合服务模式下相比NVIDIA B200/B300拥有最高50%的性能每美元优势。
推荐理由
第三方实测显示TPUv7在FP8聚合服务下性能每美元比B200高50%,并解析了TorchTPU栈的优化细节。
来源:SemiAnalysis · newsletter.semianalysis.com