谷歌拆解退役服务器,将 DDR4 内存重新用于新型 AI 系统
持续的 DRAM 供应紧张正迫使 AI 服务商采取非常规措施。谷歌表示,AI 产业已迅速从“算力受限”转变为“内存受限”,在典型 AI 服务器中,高性能内存可能占物料成本的约 75%。该公司拆解退役服务器,回收仍可使用的 DDR4 内存模组,并设计专用转接卡,使这些模组能够部署到原本计划采用 DDR5 的新型 AI 系统中。谷歌还在优化底层函数库、模型架构和 KV 缓存压缩算法,以降低单位算力的内存消耗。
本文来源:IT之家,仅供学习参考,版权归原作者所有。