SK海力士与闪迪发布开放式HBF标准,重塑AI存储架构
SK海力士与闪迪联合发布业界首个 High Bandwidth Flash(HBF,高带宽闪存)技术规范,正式提出一种面向大规模AI基础设施的新型内存与存储层。
在Santa Clara举行的 FMS 2026 大会上,这一规范首次公开亮相。HBF被设计在高带宽内存HBM与传统SSD之间,通过NAND闪存提供更大的容量,同时利用高速互连显著提升带宽。
其核心目标非常明确:在HBM容量与成本受限、SSD性能不足的情况下,为AI系统增加一个兼顾容量、带宽和成本的新中间层。
此次规范通过 Open Compute Project(OCP) 提交,意味着HBF并非某一家厂商的封闭式专有技术,而是试图建立开放的行业标准。
距离HBF联盟成立仅约6个月,而SK海力士与闪迪开始合作推进标准化工作也只有约一年。Google和Tenstorrent已经加入该联盟,显示出AI产业对于新型分层存储架构的兴趣正在快速增长。
🧩 什么是High Bandwidth Flash? #
HBF的定位可以简单理解为AI服务器内存层级中的一个新中间层:
更高带宽
▲
│
HBM
│
│
HBF
│
│
SSD
│
▼
更大容量
HBM拥有极高的带宽,但容量有限,而且单位容量成本较高。
SSD则能够提供更大的存储容量和更低的每GB成本,但在带宽和延迟方面无法直接满足高性能AI计算的需求。
HBF试图填补两者之间的空白。
它采用NAND闪存作为基础存储介质,同时通过高带宽接口和新的设备架构,让NAND能够承担传统SSD难以胜任的AI数据访问任务。
因此,HBF并不是要完全取代HBM或SSD,而是增加一个针对AI工作负载优化的中间层。
⚡ HBF带宽最高可达3.0 TB/s #
根据初始HBF规范,其单个设备容量最高可达到 512GB,支持8层或16层NAND Die堆叠结构。
规范定义了三个带宽等级,范围大约从:
| HBF等级 | 大致带宽 |
|---|---|
| 入门级 | 0.4 TB/s |
| 中间级 | 数TB/s级 |
| 高端级 | 3.0 TB/s |
最高规格达到约 3.0 TB/s。
这一带宽水平明显高于传统SSD接口所能提供的性能,使HBF更适合需要持续向GPU或其他AI加速器提供数据的工作负载。
HBF的关键思路并不是让NAND在所有指标上击败HBM,而是利用NAND更低的容量成本,提供更大的数据空间,同时将带宽提升到足以服务AI工作集的水平。
单个HBF容量最高512GB #
初始规范支持最高 512GB容量。
HBF采用8-high或16-high NAND Die堆叠方式,通过垂直堆叠增加单个封装的存储容量。
对于模型规模持续增长的AI系统而言,这一点尤其重要。
随着大语言模型参数量、上下文窗口、KV Cache以及Agent状态不断扩大,仅依靠HBM存放全部工作集会越来越困难。
HBF因此可以提供一个容量更大的高速数据层。
🔗 UCIe负责连接CPU与GPU #
HBF架构的另一个关键设计是采用 Universal Chiplet Interconnect Express(UCIe)。
与重新定义一套专有接口不同,HBF选择利用开放的UCIe Chiplet互连标准,使HBF设备能够连接不同类型的处理器。
潜在主机包括:
- GPU
- CPU
- AI加速器
- 其他Chiplet计算设备
简化后的架构可以表示为:
CPU
│
│
┌──────┴──────┐
│ UCIe │
└──────┬──────┘
│
┌──────┴──────┐
│ HBF │
│ NAND Flash │
└─────────────┘
▲
│
GPU
UCIe的采用意味着HBF能够更自然地融入异构计算平台。
这一点对于未来AI服务器尤其重要,因为新一代服务器正在从单一SoC或单一处理器,逐渐转向CPU、GPU、AI加速器、网络芯片和其他Chiplet共同组成的异构架构。
🧠 SK海力士推动Tiered Memory分层内存 #
在FMS 2026上,SK海力士高管Kim Chun-sung和Kang Uk-song重点介绍了 Tiered Memory(分层内存) 的发展方向。
核心理念是:未来AI系统不应该只依赖一种内存技术。
不同内存层可以根据带宽、容量、延迟和成本需求承担不同任务:
| 层级 | 核心优势 | 典型用途 |
|---|---|---|
| HBM | 极高带宽 | AI计算热数据 |
| HBF | 高带宽+大容量 | AI中间工作数据层 |
| SSD | 超大容量+低成本 | 持久化存储 |
随着Agentic AI工作负载不断扩大,数据可能需要在不同层级之间动态移动。
例如,可以将最需要低延迟访问的数据放入HBM,把更大的活跃工作集放入HBF,而将不常访问的数据保存在SSD中。
这种设计能够减少对昂贵HBM容量的依赖,同时避免让所有数据都直接从SSD读取所带来的巨大性能损失。
🔥 HBF瞄准AI基础设施的“内存墙” #
AI计算领域正在越来越明显地遭遇所谓的 Memory Wall(内存墙)。
现代AI加速器拥有极高的计算能力,但如果内存系统无法以足够高的带宽提供数据,计算资源就无法被充分利用。
这个问题实际上包含两个维度:
带宽: 数据能够多快地送到AI加速器?
容量: 有多少数据能够足够靠近加速器并保持可用?
HBM非常擅长解决第一个问题,但容量和成本仍然存在限制。
SSD能够解决容量和成本问题,但其带宽和延迟又不足以直接替代HBM。
HBF试图成为两者之间的平衡点。
HBM
│
├── 最高带宽
├── 最低实际延迟
└── 容量有限 / 成本高
│
▼
HBF
│
├── 更高容量
├── 远高于SSD的带宽
└── NAND成本优势
│
▼
SSD
│
├── 超大容量
├── 每GB成本低
└── 带宽明显较低
如果HBF能够在保持NAND经济性的同时实现目标带宽,那么系统架构师将获得一种新的方法,用于平衡AI性能、内存容量与基础设施成本。
🌐 开放标准可能是HBF最大的优势 #
通过 Open Compute Project(OCP) 推进HBF标准化,是此次发布中非常重要的一点。
如果采用专有存储技术,厂商可以获得更强的软硬件控制能力,但也容易形成封闭生态。
而开放标准则可以鼓励更多存储厂商、控制器厂商以及计算芯片厂商共同建立兼容生态。
Google和Tenstorrent加入HBF联盟,也意味着这一技术的潜在参与者已经超出了传统NAND厂商范围。
再结合UCIe开放Chiplet接口,HBF理论上能够连接不同厂商的CPU、GPU和AI加速器,而无需每家处理器厂商重新设计一套专有接口。
对于超大规模AI基础设施而言,这种互操作能力可能与原始带宽指标同样重要。
🏗️ SK海力士同时展示375层V10 4D NAND #
除了HBF之外,SK海力士还在FMS 2026上首次公开展示了 375层V10 4D NAND。
根据SK海力士公布的信息,新一代NAND相比上一代产品,功耗效率最高提升约 2.5倍。
SK海力士计划在明年年初开始量产基于该技术的企业级SSD。
这一时间节点同样具有重要意义,因为AI数据中心面临的问题已经不只是存储容量。
随着GPU和AI服务器规模不断扩大,数据中心需要同时控制:
- 存储容量
- 存储性能
- 机架空间
- 系统功耗
- 散热成本
因此,更高NAND层数可以提高存储密度,而更高的能效则能够降低大规模AI基础设施的长期运营成本。
🔬 HBF可能重新定义AI内存层级 #
HBF真正重要的地方并不仅仅是“NAND变得更快”。
更大的变化在于存储架构本身正在向计算系统靠近。
传统上,SSD属于相对远离GPU计算核心的持久化存储层。
而HBF希望通过高速互连和Chiplet技术,让一部分NAND容量更加靠近计算设备。
未来可能形成这样的架构:
AI加速器
│
▼
┌─────────┐
│ HBM │
└────┬────┘
│
┌────▼────┐
│ HBF │
└────┬────┘
│
┌────▼────┐
│ SSD │
└────┬────┘
│
┌────▼────┐
│ 持久存储 │
└─────────┘
这种分层架构可以根据数据访问频率,把不同类型的数据放入最适合的存储层。
对于AI推理尤其如此。
最热的数据可以留在HBM中,更大的活跃数据集放入HBF,而长期数据则继续保存在SSD中。
📊 为什么HBF对AI推理尤其重要? #
AI推理的内存需求正在快速增长。
一个大型语言模型可能仅模型权重就需要数百GB内存,而KV Cache、中间激活值、检索数据库以及Agent状态还会进一步扩大实际工作集。
如果所有数据都存储在HBM中,成本和容量压力都会非常高。
如果全部依赖SSD,则带宽和延迟又可能成为严重瓶颈。
HBF提供了一个中间方案:
HBM存放热点数据 → HBF承载更大的活跃数据集 → SSD负责持久化数据
这种分层方式能够让AI服务器更加高效地利用昂贵的HBM,而不是试图把整个工作集全部塞进HBM。
🧭 HBF接下来还需要解决什么? #
初始技术规范为HBF建立了基础,但这项技术能否实现大规模部署,还取决于实际产品和软件生态的发展。
未来值得关注的问题包括:
- HBF实际能够达到多低的访问延迟?
- GPU能够以多高的效率访问HBF?
- HBF需要怎样的控制器架构?
- 多个HBF设备如何进行扩展?
- UCIe能否在量产系统中提供足够的带宽与兼容性?
- 操作系统和AI运行时如何管理HBM、HBF与SSD?
- HBF每GB的实际成本是多少?
- 高带宽NAND设备的功耗会达到什么水平?
这些问题最终将决定HBF能否成为广泛部署的AI内存层,还是仅适用于特定工作负载的专业化架构。
🏁 总结 #
SK海力士与闪迪发布HBF技术规范,代表着行业正在尝试重新定义内存与存储之间的边界。
通过结合 NAND闪存容量、多TB/s级带宽、UCIe互连以及OCP开放标准,HBF试图填补HBM与SSD之间长期存在的性能与容量空白。
对于AI基础设施而言,这种思路尤其具有吸引力。
HBM提供极高带宽但成本高、容量有限;SSD拥有巨大容量和较低成本,却无法满足高性能AI计算的数据访问需求。HBF则试图在两者之间建立一个更加平衡的中间层。
如果生态能够按照计划发展,未来AI服务器可能越来越依赖多级内存架构:
HBM负责最热数据,HBF提供大容量高速工作层,SSD负责持久化存储。
因此,HBF最值得关注的地方并不是单纯让NAND变得更快,而是它正在尝试将内存层级本身变成AI系统架构的重要组成部分。
如果获得广泛采用,HBF有望成为下一代超大规模AI服务器的重要基础技术之一,在缓解内存瓶颈的同时,进一步改善大规模AI推理基础设施的成本与能效。