铠侠PCIe 6.0 SSD实现1000万IOPS,专为AI存储打造
铠侠在FMS 2026展示了新一代PCIe 6.0 NVMe SSD及面向AI的存储技术,凸显存储基础设施如何随日益严苛的AI工作负载同步演进。
重磅产品是全新的铠侠GP1系列,这是一款PCIe 6.0 NVMe SSD,在512字节访问粒度下最高可实现1000万随机读IOPS,并针对近GPU及GPU直接访问工作负载进行了优化。
铠侠还展示了CM10系列PCIe 6.0企业级SSD、支持液冷的NX1系列、最新的BiCS FLASH Gen10 TLC NAND、高容量QLC存储、基于XL-FLASH的CXL内存模块,以及面向AI的软件如AiSAQ。
这些演示反映了AI基础设施设计的更广泛变革。
随着AI系统从模型训练转向大规模推理与代理式工作负载,存储不仅需要提供容量,还需具备高随机访问性能、低延迟、可预测吞吐量、能效,以及与基于加速器的计算的紧密集成。
🚀 铠侠GP1达到1000万IOPS #
展会最引人注目的产品是铠侠GP1系列,一款专为极高性能AI工作负载设计的PCIe 6.0 NVMe SSD。
GP1在512字节访问粒度下最高可实现1000万随机读IOPS。
这一性能目标尤其适用于反复访问相对较小数据片段、而非处理大型顺序文件的工作负载。
铠侠还针对GPU直接访问对GP1进行了优化,将SSD更贴近加速器数据通路。
为什么随机IOPS对AI至关重要 #
AI存储性能不能仅通过顺序带宽来评估。
大型模型检查点和数据集可产生大量顺序流量,但推理和检索类工作负载会引入截然不同的访问模式。
例如:
- 检索增强生成(RAG)
- 向量数据库
- 特征存储
- 模型服务
- 与KV缓存相关的数据移动
- 数据集索引
- 小对象检索
- AI代理工作负载
简化的AI数据通路如下:
Storage
|
v
NVMe SSD
|
v
Host CPU / Memory
|
v
GPU
|
v
AI Inference
GPU直接存储等技术旨在减少通过主机CPU和系统内存的不必要数据移动。
目标不仅是单独让SSD更快,而是提升完整存储到GPU数据通路的效率。
⚡ PCIe 6.0推动企业级SSD性能前行 #
GP1与CM10系列展示了铠侠向面向高端企业与AI基础设施的PCIe 6.0存储的转型。
PCIe 6.0相比前几代显著提升了可用接口带宽,使存储控制器和NAND架构能够向更高吞吐量扩展。
然而,SSD的真实性能取决于的远不止PCIe接口。
完整存储栈包括:
Application
|
v
Filesystem / Storage API
|
v
NVMe Driver
|
v
PCIe 6.0
|
v
SSD Controller
|
v
DRAM / Cache
|
v
NAND Flash
因此性能可能受控制器、NAND介质、固件、队列深度、热条件、工作负载特性以及主机架构的约束。
这对于AI基础设施尤为重要,因为存储设备可能在高I/O压力下持续运行。
🏢 铠侠CM10:企业级PCIe 6.0存储 #
铠侠还推出了CM10系列,这是一款面向现代数据中心与AI工作负载的PCIe 6.0企业级NVMe SSD。
与上一代CM9系列相比,铠侠报告:
| 指标 | CM10相对CM9的提升 |
|---|---|
| 顺序读性能 | +92% |
| 随机读性能 | ~+85% |
| 接口 | PCIe 6.0 |
| NAND | BiCS FLASH Gen10 TLC |
| NAND结构 | 332层堆叠架构 |
性能提升同时针对高吞吐与高IOPS工作负载。
这一组合在AI服务器中日益重要,因为存储子系统可能同时处理模型加载、检查点操作、数据集访问、日志、检索工作负载及其他后台流量。
BiCS FLASH Gen10 #
CM10的另一亮点是它是铠侠首款采用最新第10代BiCS FLASH TLC技术的SSD。
该NAND具备332层堆叠结构。
铠侠还结合使用了**CMOS直接键合阵列(CBA)**技术以及额外的横向缩放技术。
增加垂直层数的基本目标很直接:在给定物理面积内放入更多存储单元。
然而,更高的层数会带来额外的制造与集成挑战。先进NAND缩放因此越来越依赖垂直堆叠、横向缩小、CMOS集成与封装改进的组合,而非单纯依靠层数。
💧 NX1将液冷引入SSD #
另一项引人注目的演示是铠侠NX1系列,一款支持直接液冷的数据中心NVMe SSD。
液冷传统上主要与CPU和GPU相关。
然而,随着加速器与存储性能的提升,SSD也正成为机架级热密度的重要贡献者。
简化的高密度AI服务器可能如下:
+--------------------------------------+
| AI Server |
| |
| GPU GPU GPU GPU |
| GPU GPU GPU GPU |
| |
| CPU Memory NIC |
| |
| NVMe SSDs / Storage |
+--------------------------------------+
|
v
Cooling Infrastructure
当多个组件在高利用率下运行时,热管理成为系统级问题。
SSD的直接液冷使存储设备能够参与与其他主要组件相同的高密度热管理策略。
随着PCIe 6.0 SSD在受限服务器机箱内推动更高性能,这一点将变得越来越重要。
🧠 随着AI转向推理,存储变得关键 #
铠侠主题演讲《用闪存与SSD重塑AI时代的数据中心存储》聚焦AI基础设施的重大转变。
行业正逐渐从以模型训练为主导的环境,转向推理成为持续运行的生产工作负载的环境。
训练往往产生巨大的顺序数据流,包括:
- 数据集摄取
- 检查点写入
- 模型检查点加载
- 分布式训练流量
- 中间数据处理
推理则引入另一组要求。
生产AI系统可能需要持续检索:
- 模型权重
- 上下文数据
- 文档
- 嵌入
- 向量数据库记录
- 用户特定信息
- 代理状态
- 缓存数据
这改变了存储预期的性能特征。
从带宽到数据访问效率 #
传统存储问题往往是:
存储系统每秒能交付多少GB?
AI基础设施日益需要回答额外问题:
- 小对象能多快被检索?
- 尾部延迟有多低?
- 数据能多高效到达GPU?
- 存储产生多少CPU开销?
- 每次I/O操作消耗多少功耗?
- 性能如何在数千块驱动器上扩展?
这就是为什么铠侠的产品组合同时覆盖极高随机IOPS与高容量闪存存储。
🔗 为AI工厂平衡内存与存储 #
铠侠还与英伟达共同主持了题为《平衡内存与存储以驱动大规模AI工厂与AI代理》的小组讨论。
该主题凸显了AI系统架构中日益重要的问题:内存与存储不能再独立设计。
现代AI服务器可能包含多个内存层次:
Fastest
|
v
GPU SRAM / Registers
|
v
GPU HBM
|
v
System DRAM
|
v
CXL Memory
|
v
NVMe SSD
|
v
High-Capacity Storage
|
v
Slowest / Largest
每一层提供不同的延迟、带宽、容量与成本平衡。
随着模型规模与上下文窗口扩大,工作负载日益需要在整个层次中智能移动数据。
目标并非完全消除存储访问。
相反,系统架构师需要确保频繁访问的信息留在快速内存中,而较大或不太频繁访问的数据集则位于能力日益增强的存储上。
📦 245.76 TB QLC SSD瞄准大型AI数据集 #
铠侠还展示了其LC9系列,包括基于QLC闪存的245.76 TB NVMe SSD。
QLC每个NAND单元存储四位,相比TLC可实现显著更高的密度。
主要优势是容量。
在AI基础设施中,高容量SSD可减少存储大型数据集、模型仓库、检查点及其他数据所需的驱动器数量。
简化的容量密度对比:
TLC
|
+--> Higher endurance / performance characteristics
|
+--> Lower density than QLC
QLC
|
+--> Higher storage density
|
+--> Lower cost per bit
|
+--> Attractive for capacity-oriented workloads
这一权衡意味着QLC并非旨在在所有工作负载中替代高性能TLC。
相反,不同NAND类型可在AI存储层次中占据不同位置。
🔍 AI RAG与向量数据库扩展 #
铠侠还演示了AiSAQ,其开源软件技术旨在提升AI RAG工作负载中向量数据库的可扩展性。
检索增强生成要求AI系统在生成响应前检索相关信息。
简化的RAG流水线如下:
User Query
|
v
Embedding Generation
|
v
Vector Search
|
v
Relevant Documents
|
v
LLM Context
|
v
Generated Response
随着文档集合增长,向量数据库可能成为主要的存储与检索瓶颈。
这使存储性能对推理延迟越来越相关。
当AI应用需要在同时服务大量并发用户或代理的同时搜索海量数据集时,挑战会更加突出。
高容量闪存结合高效检索软件因此可成为RAG基础设施栈的重要组成部分。
🧠 CXL内存与XL-FLASH扩展内存层次 #
铠侠还演示了使用XL-FLASH的CXL内存模块。
Compute Express Link(CXL)提供标准化互连,用于将内存资源附加到处理器与加速器。
这为超越传统本地DRAM扩展内存层次创造了额外机会。
由此产生的架构可能如下:
CPU / Accelerator
|
+---- Local DRAM
|
+---- CXL Memory
|
+---- NVMe SSD
|
+---- High-Capacity Flash
铠侠的XL-FLASH技术瞄准传统DRAM与更高容量NAND存储之间的间隙,为系统架构师提供另一个可考虑的层级。
对于具有大型工作集的AI系统,此类中间内存层级有可能同时减轻昂贵高带宽内存与较慢存储的压力。
📱 UFS 5.0将AI存储延伸至数据中心之外 #
FMS 2026的演示并不限于数据中心硬件。
铠侠还展示了UFS 5.0,将其定位为高性能且兼容AI的闪存存储解决方案。
UFS对移动与嵌入式系统尤为相关,这些系统中能效、紧凑封装与存储性能必须在严格物理约束下共存。
随着设备端AI能力增强,本地存储日益需要容纳:
- AI模型
- 嵌入
- 用户数据
- 多模态内容
- 应用资产
- 本地推理缓存
这在数据中心与边缘设备中形成了相似的架构趋势:AI日益需要本地访问大量数据。
🧱 BiCS FLASH Gen10与先进NAND缩放 #
除SSD产品外,铠侠还重点介绍了其BiCS FLASH Gen10技术。
新一代结合了:
- 332层3D NAND
- TLC闪存
- CMOS直接键合阵列技术
- 横向缩放改进
- 更高密度封装
NAND缩放日益成为多维工程问题。
垂直堆叠增加层数,而横向缩放则增加同一水平面积内可容纳的单元数量。
CBA技术进一步分离并集成CMOS与阵列结构,以提升缩放灵活性。
这些技术共同使闪存制造商能够在不依赖单一缩放维度的情况下继续提升密度。
📦 32-Die BGA封装提升闪存密度 #
铠侠还演示了使用32-die堆叠BGA封装的高容量低延迟QLC闪存。
随着NAND密度增加,先进封装正变得越来越重要。
制造商不仅可在单个die层面提升容量,还可增加集成到单个封装中的die数量。
这形成了密度提升的层次:
NAND Cell
|
v
NAND Die
|
v
Multi-Die Package
|
v
SSD
|
v
Storage Server
|
v
AI Data Center
每一层引入不同的约束,涉及电力输送、热管理、信号完整性、控制器架构与制造复杂性。
🏗️ 铠侠FMS 2026演示 #
铠侠的双层展台通过一系列演示将这些技术汇聚在一起。
主要演示包括:
| 技术 | 演示重点 |
|---|---|
| NX1系列 | 液冷数据中心NVMe SSD |
| CM9系列 | AI推理上下文内存缓存 |
| CM10系列 | PCIe 6.0企业级NVMe SSD |
| GP1系列 | 最高1000万随机读IOPS |
| AiSAQ | RAG与向量数据库可扩展性 |
| LC9系列 | 245.76 TB QLC NVMe SSD |
| UFS 5.0 | 高性能移动与AI存储 |
| XL-FLASH + CXL | 扩展内存层次 |
| BiCS FLASH Gen10 | 332层NAND与CBA |
| 32-Die BGA | 高密度QLC闪存封装 |
这些演示并非将技术作为孤立产品呈现,而是共同阐释铠侠对新兴AI存储栈的整体方法。
⚙️ 存储正成为AI加速器架构的一部分 #
铠侠FMS 2026展示的最重要启示是,存储正日益被设计为AI计算架构的一部分,而非被视为外围子系统。
传统模型相对简单:
CPU
|
+--> DRAM
|
+--> Storage
现代AI基础设施要复杂得多:
+--> HBM
|
GPU / Accelerator --+--> System Memory
|
+--> CXL Memory
|
+--> NVMe SSD
|
+--> High-Capacity Flash
随着AI模型变得更大、推理变得更加数据密集,计算、内存与存储之间的边界继续模糊。
因此,性能最高的系统不仅依赖于更快的GPU,还依赖于数据在整个层次中高效移动。
🔮 结论:PCIe 6.0 SSD瞄准下一个AI瓶颈 #
铠侠在FMS 2026的产品组合展示了企业存储如何迅速适应AI基础设施需求。
GP1系列将随机读性能推至1000万IOPS,瞄准近GPU与GPU直接访问工作负载。CM10系列将PCIe 6.0引入企业级SSD,同时相对前代CM9实现显著性能提升。NX1系列通过直接液冷解决热约束。
在闪存层面,BiCS FLASH Gen10引入332层TLC架构,并配合CBA及其他缩放技术,而245.76 TB LC9等高容量QLC产品则瞄准日益庞大的AI数据集。
与此同时,CXL内存、XL-FLASH、UFS 5.0、AiSAQ以及先进多die封装表明,铠侠将AI存储视为完整层次,而非单一SSD产品类别。
更大的行业趋势清晰可见。
随着AI系统从模型训练转向持续推理、RAG、代理式工作负载与大规模生产部署,存储延迟、IOPS、容量、能效与数据通路效率正成为AI基础设施的一等关切。
下一代AI性能因此将不再仅由加速器决定。
它将越来越取决于整个系统如何高效地将数据从闪存移动到内存,最终到达消耗数据的计算引擎。