Google 供应链基础架构资深总监Nikhil Cherian 近日在某高峰论坛上透露，当前DRAM供应已相当紧张，Google已开始将退役服务器中的DDR4内存回收再利用，通过设计专用硬件转接器，将其整合进最新一代AI服务器中。但他坦言，即便如此仍远远不够，并呼吁存储厂商必须加速扩产。

从"算力受限"到"内存受限"：AI瓶颈正在转移

Cherian指出，随着AI模型规模快速膨胀，产业已经从过去的"算力受限"正式转向"内存受限（Memory-constrained）"。换言之，即便GPU/TPU算力已经足够强大，但数据"喂不进去"，关键瓶颈已转移到内存环节。

具体来看，大型模型逐步引入混合专家模型（MoE）、Agentic AI及长上下文等技术，叠加KV Cache规模持续扩张，各类技术都在争夺内存容量，直接推动内存需求快速攀升。目前，高性能内存已占AI服务器硬件物料清单（BOM）成本的75%以上。

Cherian直言，对于云服务商而言，若投入数十亿美元建设的AI处理器因等待内存带宽而闲置，等同于大量算力资本开支被浪费。因此，Google现阶段关注的核心不仅是内存价格，还有能否获得足够的内存，让昂贵的AI芯片持续保持高负荷运转。

软硬件双管齐下，仍难填需求缺口

为突破内存瓶颈，Google在软硬件两端同步发力。

硬件方面，Google今年首次在同一年内推出两款针对不同工作负载设计的定制芯片——TPU-8T和TPU-8I。其中，TPU-8T主攻训练场景，TPU-8I则面向推理场景。为降低推理延迟，TPU-8I将片上SRAM容量提升至3倍，HBM容量增加50%，目标是将活跃的KV Cache尽可能留在高速内存中，减少数据搬运带来的性能损耗。

软件方面，Google持续从底层函数库、模型架构及KV Cache压缩等方向着手，试图降低单位算力所需的内存占用。但Cherian强调，即便通过算法大幅压缩内存使用量，仍远远无法满足公司AI发展的需求。

回收DDR4、参与产能投资：Google的非常规手段

面对存储供给瓶颈，Google甚至采取了非常规手段。Cherian透露，Google已开始拆解退役服务器，回收其中仍可使用的元件，建立内部循环供应链；同时设计专用硬件转接器，让DDR4等上一代内存也能接入新一代AI服务器。

Cherian坦言，过去Google从未预料到会采取这类做法，但面对AI带来的庞大内存需求，公司必须设法突破物理供应限制。此外，Google正与存储供应商建立长期合作，直接参与产能投资，以确保未来的内存供给。

Google作为全球最大的云服务商之一，现阶段甚至需要回收退役服务器中的DDR4并重新导入AI服务器，充分说明此轮DRAM供需紧张程度远超市场预期。与此同时，AI服务器市场此前的焦点主要集中在HBM和DDR5，但在供应吃紧的背景下，DDR4也出现了重新利用的需求，其产品生命周期将进一步延长。