谷歌补齐第八代TPU:双芯8i Max与机密推理8tx

11月9日,谷歌发布两款第八代TPU:主打单机柜最高算力密度的TPU 8i Max,与支持机密推理的TPU 8tx。这是谷歌十余年来首次一年推出4款TPU,加上4月的8t与8i,第八代产品线覆盖智能体全生命周期。

8i Max:把两颗芯片塞进一个封装

8i Max解决的是内存墙。当几十个智能体同时处理整个代码库或数小时视频时,瓶颈不在算力而在内存带宽。谷歌的做法很直接:把两颗低延迟的TPU 8i芯片封装在同一个模块上,算力、SRAM、HBM带宽全部翻倍。

关键在于它没有变大。双芯封装沿用现有单机柜尺寸,等于同样一柜塞进两倍硅片,每平方英尺、每瓦的算力密度随之翻倍。谷歌称这套系统是为Gemini的百万Token上下文设计的——约合75万词、1500页文本,需要芯片反复调阅海量数据而不卡顿。

型号 定位 关键指标
TPU 8t 大规模训练 训练性能较上代最高2.7倍
TPU 8i 实时推理 推理性价比提升80%
TPU 8tx 机密推理与小规模训练 延迟较8t最高降50%,硬件级加密
TPU 8i Max 超大上下文、单柜最高密度 算力、SRAM、HBM带宽均为8i的2倍

8tx:数据在运算中也不解密

常规云计算的加密只覆盖存储与传输,数据进入内存参与运算时必须解密,这是机密计算长期的缺口。8tx把这层保护做进硬件:敏感数据与模型权重在使用状态下依然加密并隔离,面向受监管行业与政府客户。

它的底子是8t的同款芯片,搭配第五代AMD EPYC CPU主机,并复用为8i打造的Boardfly低延迟网络。谷歌给出的数据是:相比8t延迟最高降低一半,性能损耗几乎可以忽略。训练级算力加推理级网络,意味着客户可以在同一套系统里微调、蒸馏、做强化学习,不必把敏感数据搬到另一个集群。

真正的变化:不流新片,只改封装

这次发布最值得注意的不是参数,而是方法。两款新品都没有新流片,靠的是封装、内存配置、主机CPU与光网络的重新组合。芯片从立项到量产通常要数年,而调整封装只需数月——这让谷歌能在一年内凑齐四款产品,把「一个通用芯片打天下」换成「一套底座派生多个型号」。

配套的软件动作同样密集:上月开源TorchTPU,PyTorch代码与Hugging Face模型可原生跑在TPU上;vLLM、SGLang等主流推理引擎有了官方后端;新开源TPU agent套件可直接接入Claude Code、Cursor等编程工具。

XLA Serving Engine则支持用Python训练、以C++低延迟服务部署。谷歌还推出Agent Compute Engine,能在毫秒级暂停空闲智能体会话、把工作内存移出芯片,减少等待工具调用时的算力空转。

生态侧的动作更直接:TPU云业务已服务近100家外部客户,甲骨文OCI也开始提供TPU——这是谷歌自研芯片首次登上竞争对手的公有云。一块原本封闭的自用算力,正在变成可外销的第三方供给。

定制芯片的竞赛同步加速(参见:OpenAI自研芯片Jalapeno完整架构公布),而HBM产能早已被长约锁定(参见:三星明年近80%存储芯片产能已被长期供应协议锁定)。8i Max这类双芯封装,对内存的胃口只会更大。

常见问题

TPU 8i Max和TPU 8i有什么区别?

8i Max是两颗8i封装成一个模块,算力、SRAM、HBM带宽均为单颗8i的2倍,机柜占用不变,因此单柜算力密度翻倍,专为百万Token级上下文设计。

TPU 8tx的机密计算是什么意思?

数据在存储和传输时本就加密,但运算时需在内存解密。8tx把加密与隔离做进硬件层,模型权重和客户数据在运算过程中也保持加密,延迟较8t最高降低50%。

谷歌一年发4款TPU意味着什么?

这是十余年来首次。四款产品覆盖训练(8t)、推理(8i)、机密计算(8tx)、超大上下文(8i Max),且新品均未新流片,靠封装与配套组合快速派生。

信息来源:Google官方博客/芯东西,2026-11-09

我还没有学会写个人说明!
上一篇

存储合约价涨幅三季连降,原厂已锁定2027年产能

你也可能喜欢

评论已经被关闭。

插入图片
微信 微信
微信
返回顶部

微信扫一扫

微信扫一扫