2024年,三星宣布开发出了目前最先进的高带宽内存(HBM)的12层版本,即HBM3e。这一发展将推动行业在服务器产品带宽和容量方面向前发展,从每堆栈8层24GB发展到12层36GB。
12层HBM3e将每个堆栈可用的总带宽提高到惊人的1,280GB/s,这比单个堆栈上RTX 4090可用的全部带宽还要高。相比之下,三星上一代的八层HBM3提供了819GB/s的带宽。增加四层内存还可以提高每个堆栈的容量,该公司表示,这将使“AI行业的供应商”受益。三星此前已与AMD和英伟达签署了协议,但尚未宣布其12层设计的任何合作伙伴。
随着最新的声明,三星似乎在与竞争对手美光针锋相对,美光最近发布了自己的12层36GB HBM3e。哪家公司将率先进入市场还有待观察,但这将是一场势均力敌的竞争。三星表示计划在2024年上半年开始批量生产,美光表示将在2024年3月开始向客户提供样品。
SK海力士去年4月推出了每层24GB的12层HBM3。它曾经是业界唯一的HBM供应商,但现在它面临着来自三星和美光的激烈竞争。SK海力士预计将在今年推出HBM33,而美光正在为英伟达的H200人工智能加速器提供HBM3e——这可能是目前存储器领域最有利可图的合同之一。
三星通过使用TC NCF实现了12层HBM3e堆叠,这使得它可以保持与8层设计相同的高度,以满足封装要求。与八层HBM3相比,垂直密度提高了20%。三星表示,内存容量的提升将降低总体拥有成本,同时将人工智能训练的平均速度提高34%。