三星推出 zHBM 内存规划：旨在将 AI 响应速度提升 10 倍
在 AI 基础设施峰会上，三星电子展示了其下一代 AI 内存 zHBM 的路线图。该技术将 HBM 直接垂直堆叠在 AI 加速器上，旨在将对话式 AI 的处理速度从每秒 100 个 token 提升至 1000 个 token。三星表示，该设计性能可达 HBM5 的 8 倍，能效提升 3 倍。此外，来自 OpenAI 和英特尔的行业专家对 CXL 技术替代 HBM 用于模型运行的前景表示质疑，认为受带宽限制，CXL 更适用于辅助存储或冷数据处理。
本文来源：IT之家，仅供学习参考，版权归原作者所有。