跳过正文

SK海力士与闪迪发布开放式HBF标准,重塑AI存储架构

·301 字·2 分钟
SK海力士 闪迪 HBF 高带宽闪存 NAND HBM AI基础设施 UCIe OCP FMS 2026
目录

SK海力士与闪迪发布开放式HBF标准,重塑AI存储架构

SK海力士与闪迪联合发布业界首个 High Bandwidth Flash(HBF,高带宽闪存)技术规范,正式提出一种面向大规模AI基础设施的新型内存与存储层。

在Santa Clara举行的 FMS 2026 大会上,这一规范首次公开亮相。HBF被设计在高带宽内存HBM与传统SSD之间,通过NAND闪存提供更大的容量,同时利用高速互连显著提升带宽。

其核心目标非常明确:在HBM容量与成本受限、SSD性能不足的情况下,为AI系统增加一个兼顾容量、带宽和成本的新中间层。

此次规范通过 Open Compute Project(OCP) 提交,意味着HBF并非某一家厂商的封闭式专有技术,而是试图建立开放的行业标准。

距离HBF联盟成立仅约6个月,而SK海力士与闪迪开始合作推进标准化工作也只有约一年。Google和Tenstorrent已经加入该联盟,显示出AI产业对于新型分层存储架构的兴趣正在快速增长。

🧩 什么是High Bandwidth Flash?
#

HBF的定位可以简单理解为AI服务器内存层级中的一个新中间层:

        更高带宽
          HBM
          HBF
          SSD
        更大容量

HBM拥有极高的带宽,但容量有限,而且单位容量成本较高。

SSD则能够提供更大的存储容量和更低的每GB成本,但在带宽和延迟方面无法直接满足高性能AI计算的需求。

HBF试图填补两者之间的空白。

它采用NAND闪存作为基础存储介质,同时通过高带宽接口和新的设备架构,让NAND能够承担传统SSD难以胜任的AI数据访问任务。

因此,HBF并不是要完全取代HBM或SSD,而是增加一个针对AI工作负载优化的中间层。

⚡ HBF带宽最高可达3.0 TB/s
#

根据初始HBF规范,其单个设备容量最高可达到 512GB,支持8层或16层NAND Die堆叠结构。

规范定义了三个带宽等级,范围大约从:

HBF等级 大致带宽
入门级 0.4 TB/s
中间级 数TB/s级
高端级 3.0 TB/s

最高规格达到约 3.0 TB/s

这一带宽水平明显高于传统SSD接口所能提供的性能,使HBF更适合需要持续向GPU或其他AI加速器提供数据的工作负载。

HBF的关键思路并不是让NAND在所有指标上击败HBM,而是利用NAND更低的容量成本,提供更大的数据空间,同时将带宽提升到足以服务AI工作集的水平。

单个HBF容量最高512GB
#

初始规范支持最高 512GB容量

HBF采用8-high或16-high NAND Die堆叠方式,通过垂直堆叠增加单个封装的存储容量。

对于模型规模持续增长的AI系统而言,这一点尤其重要。

随着大语言模型参数量、上下文窗口、KV Cache以及Agent状态不断扩大,仅依靠HBM存放全部工作集会越来越困难。

HBF因此可以提供一个容量更大的高速数据层。

🔗 UCIe负责连接CPU与GPU
#

HBF架构的另一个关键设计是采用 Universal Chiplet Interconnect Express(UCIe)

与重新定义一套专有接口不同,HBF选择利用开放的UCIe Chiplet互连标准,使HBF设备能够连接不同类型的处理器。

潜在主机包括:

  • GPU
  • CPU
  • AI加速器
  • 其他Chiplet计算设备

简化后的架构可以表示为:

              CPU
        ┌──────┴──────┐
        │     UCIe    │
        └──────┬──────┘
        ┌──────┴──────┐
        │     HBF     │
        │ NAND Flash  │
        └─────────────┘
              GPU

UCIe的采用意味着HBF能够更自然地融入异构计算平台。

这一点对于未来AI服务器尤其重要,因为新一代服务器正在从单一SoC或单一处理器,逐渐转向CPU、GPU、AI加速器、网络芯片和其他Chiplet共同组成的异构架构。

🧠 SK海力士推动Tiered Memory分层内存
#

在FMS 2026上,SK海力士高管Kim Chun-sung和Kang Uk-song重点介绍了 Tiered Memory(分层内存) 的发展方向。

核心理念是:未来AI系统不应该只依赖一种内存技术。

不同内存层可以根据带宽、容量、延迟和成本需求承担不同任务:

层级 核心优势 典型用途
HBM 极高带宽 AI计算热数据
HBF 高带宽+大容量 AI中间工作数据层
SSD 超大容量+低成本 持久化存储

随着Agentic AI工作负载不断扩大,数据可能需要在不同层级之间动态移动。

例如,可以将最需要低延迟访问的数据放入HBM,把更大的活跃工作集放入HBF,而将不常访问的数据保存在SSD中。

这种设计能够减少对昂贵HBM容量的依赖,同时避免让所有数据都直接从SSD读取所带来的巨大性能损失。

🔥 HBF瞄准AI基础设施的“内存墙”
#

AI计算领域正在越来越明显地遭遇所谓的 Memory Wall(内存墙)

现代AI加速器拥有极高的计算能力,但如果内存系统无法以足够高的带宽提供数据,计算资源就无法被充分利用。

这个问题实际上包含两个维度:

带宽: 数据能够多快地送到AI加速器?

容量: 有多少数据能够足够靠近加速器并保持可用?

HBM非常擅长解决第一个问题,但容量和成本仍然存在限制。

SSD能够解决容量和成本问题,但其带宽和延迟又不足以直接替代HBM。

HBF试图成为两者之间的平衡点。

HBM
├── 最高带宽
├── 最低实际延迟
└── 容量有限 / 成本高
        HBF
├── 更高容量
├── 远高于SSD的带宽
└── NAND成本优势
        SSD
├── 超大容量
├── 每GB成本低
└── 带宽明显较低

如果HBF能够在保持NAND经济性的同时实现目标带宽,那么系统架构师将获得一种新的方法,用于平衡AI性能、内存容量与基础设施成本。

🌐 开放标准可能是HBF最大的优势
#

通过 Open Compute Project(OCP) 推进HBF标准化,是此次发布中非常重要的一点。

如果采用专有存储技术,厂商可以获得更强的软硬件控制能力,但也容易形成封闭生态。

而开放标准则可以鼓励更多存储厂商、控制器厂商以及计算芯片厂商共同建立兼容生态。

Google和Tenstorrent加入HBF联盟,也意味着这一技术的潜在参与者已经超出了传统NAND厂商范围。

再结合UCIe开放Chiplet接口,HBF理论上能够连接不同厂商的CPU、GPU和AI加速器,而无需每家处理器厂商重新设计一套专有接口。

对于超大规模AI基础设施而言,这种互操作能力可能与原始带宽指标同样重要。

🏗️ SK海力士同时展示375层V10 4D NAND
#

除了HBF之外,SK海力士还在FMS 2026上首次公开展示了 375层V10 4D NAND

根据SK海力士公布的信息,新一代NAND相比上一代产品,功耗效率最高提升约 2.5倍

SK海力士计划在明年年初开始量产基于该技术的企业级SSD。

这一时间节点同样具有重要意义,因为AI数据中心面临的问题已经不只是存储容量。

随着GPU和AI服务器规模不断扩大,数据中心需要同时控制:

  • 存储容量
  • 存储性能
  • 机架空间
  • 系统功耗
  • 散热成本

因此,更高NAND层数可以提高存储密度,而更高的能效则能够降低大规模AI基础设施的长期运营成本。

🔬 HBF可能重新定义AI内存层级
#

HBF真正重要的地方并不仅仅是“NAND变得更快”。

更大的变化在于存储架构本身正在向计算系统靠近

传统上,SSD属于相对远离GPU计算核心的持久化存储层。

而HBF希望通过高速互连和Chiplet技术,让一部分NAND容量更加靠近计算设备。

未来可能形成这样的架构:

                 AI加速器
                ┌─────────┐
                │   HBM   │
                └────┬────┘
                ┌────▼────┐
                │   HBF   │
                └────┬────┘
                ┌────▼────┐
                │   SSD   │
                └────┬────┘
                ┌────▼────┐
                │ 持久存储 │
                └─────────┘

这种分层架构可以根据数据访问频率,把不同类型的数据放入最适合的存储层。

对于AI推理尤其如此。

最热的数据可以留在HBM中,更大的活跃数据集放入HBF,而长期数据则继续保存在SSD中。

📊 为什么HBF对AI推理尤其重要?
#

AI推理的内存需求正在快速增长。

一个大型语言模型可能仅模型权重就需要数百GB内存,而KV Cache、中间激活值、检索数据库以及Agent状态还会进一步扩大实际工作集。

如果所有数据都存储在HBM中,成本和容量压力都会非常高。

如果全部依赖SSD,则带宽和延迟又可能成为严重瓶颈。

HBF提供了一个中间方案:

HBM存放热点数据 → HBF承载更大的活跃数据集 → SSD负责持久化数据

这种分层方式能够让AI服务器更加高效地利用昂贵的HBM,而不是试图把整个工作集全部塞进HBM。

🧭 HBF接下来还需要解决什么?
#

初始技术规范为HBF建立了基础,但这项技术能否实现大规模部署,还取决于实际产品和软件生态的发展。

未来值得关注的问题包括:

  • HBF实际能够达到多低的访问延迟?
  • GPU能够以多高的效率访问HBF?
  • HBF需要怎样的控制器架构?
  • 多个HBF设备如何进行扩展?
  • UCIe能否在量产系统中提供足够的带宽与兼容性?
  • 操作系统和AI运行时如何管理HBM、HBF与SSD?
  • HBF每GB的实际成本是多少?
  • 高带宽NAND设备的功耗会达到什么水平?

这些问题最终将决定HBF能否成为广泛部署的AI内存层,还是仅适用于特定工作负载的专业化架构。

🏁 总结
#

SK海力士与闪迪发布HBF技术规范,代表着行业正在尝试重新定义内存与存储之间的边界

通过结合 NAND闪存容量、多TB/s级带宽、UCIe互连以及OCP开放标准,HBF试图填补HBM与SSD之间长期存在的性能与容量空白。

对于AI基础设施而言,这种思路尤其具有吸引力。

HBM提供极高带宽但成本高、容量有限;SSD拥有巨大容量和较低成本,却无法满足高性能AI计算的数据访问需求。HBF则试图在两者之间建立一个更加平衡的中间层。

如果生态能够按照计划发展,未来AI服务器可能越来越依赖多级内存架构:

HBM负责最热数据,HBF提供大容量高速工作层,SSD负责持久化存储。

因此,HBF最值得关注的地方并不是单纯让NAND变得更快,而是它正在尝试将内存层级本身变成AI系统架构的重要组成部分

如果获得广泛采用,HBF有望成为下一代超大规模AI服务器的重要基础技术之一,在缓解内存瓶颈的同时,进一步改善大规模AI推理基础设施的成本与能效。

相关文章

铠侠PCIe 6.0 SSD实现1000万IOPS,专为AI存储打造
·547 字·3 分钟
铠侠 PCIe 6.0 NVMe SSD AI存储 企业级SSD 闪存 数据中心 NAND AI基础设施
OpenAI终止Cursor合作:SpaceX收购后模型访问将受限
·208 字·1 分钟
OpenAI Cursor Anysphere SpaceX AI编程 AI安全 Astra Anthropic AI基础设施
英伟达2027财年第二季度营收达962.2亿美元,AI需求激增
·269 字·2 分钟
英伟达 AI 数据中心 Vera Rubin Blackwell GPU 半导体 AI基础设施