跳到正文
SemiAnalysis· Alec Ibarra·· 2026-09-08精选AI 评分82

SemiAnalysis发布TPUv7 Ironwood第三方推理实测与TorchTPU栈深度解析

TPU Inference Externalization Full Steam Ahead - InferenceX

AI 导读

SemiAnalysis在InferenceX Preview中发布了Google TPUv7 Ironwood的首批第三方推理结果,显示其在FP8聚合服务模式下相比NVIDIA B200/B300拥有最高50%的性能每美元优势。

推荐理由

第三方实测显示TPUv7在FP8聚合服务下性能每美元比B200高50%,并解析了TorchTPU栈的优化细节。

来源:SemiAnalysis · newsletter.semianalysis.com