2024年，三星宣布开发出了目前最先进的高带宽内存(HBM)的12层版本，即HBM3e。这一发展将推动行业在服务器产品带宽和容量方面向前发展，从每堆栈8层24GB发展到12层36GB。
12层HBM3e将每个堆栈可用的总带宽提高到惊人的1,280GB/s，这比单个堆栈上RTX 4090可用的全部带宽还要高。相比之下，三星上一代的八层HBM3提供了819GB/s的带宽。增加四层内存还可以提高每个堆栈的容量，该公司表示，这将使“AI行业的供应商”受益。三星此前已与AMD和英伟达签署了协议，但尚未宣布其12层设计的任何合作伙伴。
随着最新的声明，三星似乎在与竞争对手美光针锋相对，美光最近发布了自己的12层36GB HBM3e。哪家公司将率先进入市场还有待观察，但这将是一场势均力敌的竞争。三星表示计划在2024年上半年开始批量生产，美光表示将在2024年3月开始向客户提供样品。
SK海力士去年4月推出了每层24GB的12层HBM3。它曾经是业界唯一的HBM供应商，但现在它面临着来自三星和美光的激烈竞争。SK海力士预计将在今年推出HBM33，而美光正在为英伟达的H200人工智能加速器提供HBM3e——这可能是目前存储器领域最有利可图的合同之一。
三星通过使用TC NCF实现了12层HBM3e堆叠，这使得它可以保持与8层设计相同的高度，以满足封装要求。与八层HBM3相比，垂直密度提高了20%。三星表示，内存容量的提升将降低总体拥有成本，同时将人工智能训练的平均速度提高34%。
