前言:
英伟达把铲子卖给所有人,谷歌选择自己挖矿,还顺手改造了矿井的岩石结构。
软件与硬件缠斗半个世纪,这一次轮到模型把芯片收编为自己的「器官」。训练大模型的人,开始动手改晶体管的图纸了。
冻结的艺术,从权重到架构的一次聪明退让
近日The Information披露,谷歌正在研发代号Frozen v2的服务器芯片,把Gemini模型的部分架构永久写入硅片,单位功耗的Token处理量预计达到最新一代TPU的6到10倍。
在机器学习里,冻结本是个日常动作,训练完成后锁住参数,让模型停止更新。
Frozen v2把这个动词推进了物理世界,它锁住的是Gemini神经网络的结构蓝图,那些规定数据如何流动、注意力如何汇聚的连接方式,将直接变成硅片上的电路。
这个想法的起点据说是Google DeepMind首席科学家Jeff Dean,Frozen第一版方案要激进得多,把模型权重整体固化进硅片,相当于把某一个版本的Gemini铸成铜像,芯片出厂之日就是它过时之始。
谷歌很快否决了这条路线,理由朴素得近乎残酷,模型迭代以月计,铜像的寿命却以年计。
Frozen v2退了一步,也因此聪明了一步。它冻结的是架构,放行的是权重,新训练出的参数仍可加载进芯片,只要底层结构不变,这颗硅片就能服侍一代又一代Gemini。
工程师至今没有敲定固化的深度,固得越多能效越高,活路越窄,这是一道用灵活性兑换效率的算术题。
把架构修进电路,等于把搬运路线拉成直线,计算步骤减少,数据迁移量下降,6到10倍的每瓦Token吞吐由此而来。
这个数字目前仍是纸面推演,部署要等到2028年,方向却已足够清楚。
过去十几年,芯片行业的信条是通用性,一颗GPU训练所有模型。
Frozen v2把这个信条翻过来晒了晒太阳,当单一模型的调用量大到以亿次计,为它单独造一颗芯片的账,开始算得过来。
比起效率翻倍,谷歌真正要救的是现金流
谷歌面对的核心问题已不只是芯片性能,而是急速膨胀的推理需求正在吞噬电力、服务器和现金。
2026年第二季度,谷歌模型API处理量达到每分钟约220亿token,较上一季度的160亿增长37.5%,更早之前还只有100亿。
用户数量没有成倍增加,服务器内部的计算链条却可能拉长数倍。
需求一路上冲,供给依旧紧绷。Alphabet当季资本开支达到449亿美元,绝大部分流向AI基础设施,并将2026年全年资本开支指引提高至1950亿至2050亿美元。
相比4月给出的1800亿至1900亿美元,这已经是年内再次加码。
重投入直接压低现金流,当季自由现金流降至负59亿美元,德意志银行对其2027年资本开支的预测甚至升至3250亿美元。
云业务的订单还在继续堆积,Google Cloud收入同比增长82%,达到248亿美元,待履约合同金额由此前的4620亿美元增至5140亿美元。
谷歌云一边握着巨额订单,一边缺少足够的算力完成交付。
The Information援引信源称,内部资源短缺已经引发团队摩擦,云部门被迫拒绝部分外部客户,同时每月花费数亿美元租用英伟达GPU救急。
管理层还计划在第三季度增加第三方数据中心容量,用临时租赁填补缺口,代价是云业务利润率承受短期压力。
一家自研芯片十一年的公司,回头高价租用竞争对手的GPU,这个细节比单纯的资本开支数字更能说明问题。
专用芯片节省的每一小步,经过数十亿级产品入口反复调用后,都会在电表和现金流量表上被放大。
Frozen v2的价值正在这里,这颗芯片将Gemini部分架构直接固化进硬件,通过牺牲一部分通用性压低单位推理成本。
Frozen v2没有对外销售计划,谷歌正在把TPU租给Meta,也试图将芯片部署进客户数据中心,这颗新芯片却更像一件纯粹的内需工具。
它承担的任务很明确,在算力供给难以迅速扩张的阶段,从每一次Gemini调用中挤出更多token,让谷歌在模型API价格竞争中获得一条更低、更难复制的成本线。
TPU向外成为平台,Frozen向内成为工厂
今年4月,谷歌把第8代TPU拆为训练型TPU 8t和推理型TPU 8i。
TPU 8i已经为采样、服务和推理做了大量定向设计,配有288 GB HBM、384 MB片上SRAM以及用于降低集体通信延迟的专用引擎。
谷歌给出的数据是,相较Ironwood,TPU 8i在特定低延迟大规模混合专家模型上可提高80%的性价比,第8代芯片最高可实现2倍每瓦性能提升。
即便如此,TPU 8i仍要支持不同模型与客户,JAX、PyTorch、Keras和vLLM构成它的软件入口,XLA负责把模型翻译给硬件。
谷歌反复强调TPU 8t与8i能够适应持续变化的模型架构,这种灵活性看似增加了运行开销,却是云平台能够做生意的基础。
TPU的商业方向也在向外打开,Alphabet在2026年第2季度首次确认,已经向客户自有数据中心交付TPU系统并确认收入,相关收入将在2027年加速兑现。
TPU由谷歌内部基础设施走向云租赁,再走向客户机房,产品边界越来越接近一套开放的AI计算平台。
Frozen承担的是另一种任务,它只需把Gemini跑得足够快、足够便宜,不必为外部客户的Claude、Llama或下一款陌生模型预留同等空间。
它更适合接住谷歌自有产品中稳定、高频、可预测的推理流量,谷歌对外出售的也将是Gemini服务结果,而非一块人人都能编程的芯片。
两条路线因此没有互相替代的必要,TPU像一座允许客户更换产线的工业园,Frozen像一条围绕Gemini重新焊接工位的专线。
前者用兼容性扩大收入边界,后者用专用性压低内部成本,谷歌在TPU之外另开分支,也是在隔离彼此冲突的产品目标。
Taalas点火,英伟达转向,专用化的合围成型
把模型往硅里塞,谷歌算不上第一个动手的,却是分量最重的那个。
今年2月,加拿大创业公司Taalas走出隐身模式,把Llama 3.1 8B的全部权重用掩膜ROM刻进了台积电6nm工艺的上层金属,815平方毫米的芯片上,每用户每秒吐出17000个Token,整机功耗只有2.5千瓦,风冷即可。
从拿到新权重到交付新芯片只要两个月,这家公司总共只花了3000万美元研发费用,就拿到了2.19亿美元融资。
巨头们的动作更加诚实,英伟达豪掷约200亿美元收购Groq,把LPU塞进Vera Rubin平台,单颗LPU带着500MB片上SRAM,一个LPX机架装256颗,官方口径下每兆瓦推理吞吐提升35倍。
Cerebras抱着整片晶圆不放,Etched只做Transformer,Taalas只做Llama,光谱从通用一路排到模型专用,尽头处,芯片本身就是模型。
Taalas冻结的是权重,一颗芯片只认一个版本,靠LoRA适配器续命。
谷歌冻结的是架构,养活的是整个Gemini家族,Jeff Dean那次退让恰恰是创新所在,行业把它称作弹性固化。
别忘了谷歌手里握着别人没有的两张牌,模型是自己的,芯片也是自己的,当芯片定义的笔从架构师传给训练师,拥有完整笔墨纸砚的只剩这一家。
结尾:
架构创新的边际收益正在衰减,模型竞争的决胜点已从发明新结构滑向工程效率与成本曲线。
GPU、TPU、工作负载专用芯片与模型专属芯片将长期叠在同一座数据中心里,区别只在于每类任务愿意为多少自由度付费。
AI基础设施的分界线,也将从GPU与TPU的品牌之争,移向通用平台与模型专属工厂的成本之争。
部分资料参考:36 氪:《谷歌将 Gemini 架构直接写入芯片,脱离 TPU 打造全新算力分支》,智东西:《放弃通用算力内卷,谷歌 Gemini 专用芯片落地,AI 芯片进入模型定制时代》,半导体行业观察:《Frozen v2 芯片详解:谷歌软硬协同重构 AI 推理算力格局》,TrendForce 集邦咨询:《2026 年全球 AI 芯片市场细分增速报告》,高盛研究院:《2027 AI 算力硬件结构变迁预测报告》










