华尔街尬捧TPU学术界懵了：何恺明5年前就是TPU编程高手，多新鲜

克雷西 发自 凹非寺量子位 | 公众号 QbitAI

学术界看不下去了，直接戳破：华尔街在尬吹谷歌TPU！

起因是Meta被曝要和谷歌签订数十亿美元的TPU订单，消息曝出后英伟达盘中最大跌幅达到了7%，按照现在的市值计算，一举蒸发了超3000亿美元。

反观谷歌，在盘中情绪最热烈时涨幅一度达4%，换算成市值相当于增加了约1500亿美元，合人民币超1万亿。

《华尔街日报》将其视为谷歌向英伟达的市场主导地位发起冲击的信号。

但在从业人士看来，华尔街对此举的看法实在是外行了：Meta、xAI在内的大公司和学术界多年一直在用TPU，市场突然就拿他当成算力救世主了？

谷歌没有护城河，英伟达也没有

OpenAI技术人员Clive Chan表示，不仅谷歌自己的Gemini一直在TPU上训练，像Claude、生图模型MidJourney、Ilya的SSI，也全都用过TPU。

所以在他看来，Meta和谷歌签TPU订单不是什么奇怪的事，如果Meta没用过的话，反而会更让他惊讶。

Clive对Meta的看法也被现实验证——没过多久谢赛宁就亲口证实，Meta早在2020年就已经开始使用TPU了。

谢赛宁介绍，当时何恺明领导了TF和JAX代码库的初步开发，MAE、MoCo v3、ConvNeXt v2和DiT等研究项目都是完全在TPU上开发的。

同时，谢赛宁团队在纽约大学的许多研究工作，也都用到了TPU。

在Meta的新订单被曝光之后，英伟达这边也对谷歌表示了祝贺。

但立马话锋一转表示自家产品依然遥遥领先，是唯一能够运行所有AI模型并应用于所有计算场景的平台。

有意思的是，这则推文三句话就用了两个长破折号，网友们一度怀疑是不是AI写的。

不过在Clive看来，所谓的“英伟达护城河”，其实也是十分薄弱的。

比如OpenAI就专门开发了Triton来绕过CUDA，并且只需25行Python代码就能达到cuBLAS的性能。

总之，从技术角度看，对于谷歌、Meta、OpenAI这样的巨兽来说，至少其自身绕开英伟达不是什么难事。

当然了，除了CUDA之外，还有一个需要考虑的因素，那就是使用成本。

Artificial Analysis用Llama 3.3对多款英伟达芯片、AMD的MI300X以及谷歌TPUv6e来了波性价比横评，结果从H100到B200，每1美元带来的Token收益是TPU v6e的5倍。

具体来说，用30Tokens每秒的速度跑Llama 3.3，输入输出各100万个Tokens，在H100上只需1.06美元，而在TPU v6e上需要5.13美元。

而谷歌最新的TPU v7成本核算下来，也和B200差不多。

TPUv7的FP8运算速度为4.6PFLOP/s，功耗约为1000瓦，GB200的FP8运算速度为5PFLOP/s，功耗约为1200瓦。

总之，综合来看，不管是技术还是成本，英伟达和谷歌都没有形成强有力的护城河。

但也有分析指出，谷歌选择出售GPU，本来也不是为了赚钱，瞄准的目标也不是英伟达。

谷歌卖TPU不为赚钱为产能

Artificial Intuition作者Carlos E. Perez分析指出，大家都把Meta与谷歌的TPU交易看作是Meta对冲NVIDIA风险的一种手段，但事实并非如此。

Perez认为，Meta在这笔交易当中也在被谷歌利用，用出货量换取排产和价格优惠，从而对冲来自芯片代工厂的风险。

代工厂需要获得切实有效的多年期合约，才会启动新的2纳米生产线，这种“安全感”是初创公司无法给予的。

Perez想象了这样一个场景：

谷歌走进代工厂，说道：“我和Meta以及苹果都签了六年云服务合同，不管他们愿不愿意，他们每年都会消耗20万个TPU。把你们N2容量的 25%按成本价给我。”而代工厂垂涎三尺，欣然应允。

现在任何一家小型芯片公司（Groq、Cerebras、Tenstorrent等等）都可以进来索要同样的晶圆。

Perez继续畅想，当这些小公司走进代工厂时，得到的回应就会变成“抱歉，未来24个月的房源都已经卖给了谷歌。剩下的零碎货，您只能按原价购买。”

他们正在利用Meta和苹果的资本支出作为抵押，预购了未来的尖端芯片供应。这和苹果当年在iPhone显示屏上用的伎俩如出一辙。

当时苹果用巨额预付款锁定所有优质面板 ，导致其他厂商多年来只能使用二流屏幕。

当然谷歌一个巴掌自然是拍不响，但Meta和苹果也都乐于签署这些协议，因为目前谷歌的TPU是唯一可以批量获得的芯片。

这样做的结果就是，在代工厂那里，能和谷歌相抗衡的，也就只有英伟达了。

参考链接：[1]https://x.com/itsclivetime/status/1993869419337142772[2]https://x.com/ArtificialAnlys/status/1993878037226557519[3]https://x.com/IntuitMachine/status/1993117888140439943