黄仁勋刚说完TPU不敢跑分!谷歌甩出实测数据:性能领先B200达50%
创始人
2026-09-11 11:09:22

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

(来源:快科技)

快科技9月11日消息,据SemiAnalysis发布的最新报告,谷歌第七代TPU Ironwood每美元推理性能最高领先英伟达B200达50%,对B300领先96%。

今年4月,黄仁勋在播客中公开质疑TPU不敢参加公开跑分,称"TPU不来,Trainium不来"。五个月后,谷歌带着实测数据如约而至。

测试采用Qwen3.5 397B FP8模型,FP8对FP8公平对比,输入8000 token、输出1000 token。在每秒100 token单用户吞吐基准下,TPU每百万token成本仅0.181美元。

B200每百万token成本0.222美元,B300高达0.276美元。TPU分别便宜19%和34%。若将中位响应时间限制在20秒,TPU成本降至0.098美元。

TPU的成本优势并非来自峰值算力。实测中TPU物理吞吐仅领先约5%,但每小时租赁成本远低于GPU,叠加价格差后放大为50%的每美元性能领先。

价格优势只是第一层冲击,更令英伟达忌惮的是软件生态的松动。谷歌推出TorchTPU,利用PyTorch的PrivateUse1后端接口,让TPU直接成为原生Torch运算设备。

开发者只需将一行代码device = torch.device('cuda')改为device = tpu.get_device(),无需重写训练循环或修改模型架构,即可在TPU上运行。

此外,Ironwood单芯片配备192GB HBM,是上代Trillium的6倍,可容纳更大KV Cache。矩阵单元采用256×256脉动阵列,原生支持FP8运算。

硬件实力的提升,也让谷歌在销售策略上更加主动。谷歌自去年起开放TPU直接销售,不再只依赖云端租赁。据悉,Anthropic已采购超100万颗TPU,到2029年将超越DeepMind成为全球最大TPU单一用户。

TorchTPU预计10月PyTorch大会期间开源,届时TPU对开发者的迁移门槛将降至一行代码。

相关内容

热门资讯

米莱取消访问英国 据埃菲社9月10日报道,阿根廷总统米莱取消了原定于10月访问英国的行程。此前,因他宣布对在马尔维纳斯...
印尼9月干旱持续 火点已超50... 格隆汇9月11日|印尼在应对山火与浓重烟霾方面或将面临更严峻的挑战,因为异常干燥的天气将持续至本月底...
梅卡曼德邵天兰批评“攒局型”具... 21世纪经济报道记者周慧9月10日,“具身智能眼脑手第一股”梅卡曼德创始人兼CEO邵天兰的微信朋友圈...
2025年我国新发现非油气矿产... 来源:新华网新华社天津9月11日电(记者黄江林、宋瑞)11日,在天津举行的2026中国国际矿业大会上...
“‘支联会’煽动颠覆国家政权”... 9月11日上午10时,香港西九龙裁判法院(暂代高等法院)对已经解散的反中乱港组织“支联会”及其头目李...