应该预先以整体性的方式来解决存储扩展问题。这包括容量、性能、网络硬件和数据传输协议。其中的关键点是确保充足的GPU资源，否则，训练和推理工作可能会失败。
继续阅读
标签： PCIe
NVLink 之GPU 互连
NVLink的目标是突破PCIe接口的带宽瓶颈，提高GPU之间交换数据的效率。2016年发布的P100搭载了第一代NVLink，提供160GB/s的带宽，相当于当时PCIe 3.0 x16带宽的5倍。
继续阅读
突破“内存墙”：基于CXL技术的SSD
本文探讨了使用廉价闪存内存（flash memory）在新型互连技术（如CXL）上以应对“内存墙”的可行性。我们探索了CXL启用的闪存设备的设计空间，并展示了缓存和预取等技术可以帮助缓解有关闪存性能和寿命的担忧。
继续阅读
CXL内存外形规格比较
Compute Express Link（CXL）是一种高带宽、低延迟的CPU与设备之间的互连标准，它构建在现有的PCI Express（PCIe）基础设施之上，充分利用了PCIe的物理和电气接口，并引入了额外的传输协议。
继续阅读
PCIe几十年来的兼容性和演进
PCI（Peripheral Component Interconnect）是现代计算机中外围设备互连的标准，涵盖了从便携设备到数据中心和高性能计算等各种领域。
继续阅读
大规模内存分层的演变
CXL 3.0允许每个主机支持多达16个加速器，使其成为用于GPU的标准一致性互连。它还增加了点对点（P2P）通信、多级交换和最多4,096个节点的结构。
继续阅读
点对点DMA
在2023年“Linux存储、文件系统、内存管理和BPF峰会”的首日全体会议上，Stephen Bates主持了一场关于“点对点DMA（P2PDMA）”的讨论。这个想法的核心在于，从一个连接了PCIe的设备向另一个设备传输数据时，消除主机系统的介入。
继续阅读
SmartNIC、DPU和SPU：优点、问题与挑战
不管你是否考虑使用卸载卡、SmartNIC、GPU、DPU还是SPU，有一点是肯定的，它们并非都是相同水平的。
继续阅读
解耦合和可组合性对于AI/DL模型的规模化至关重要
新一代应用程序和工作负载，如AI/DL和HPC，正在打破传统存储基础设施模型和框架的界限。
继续阅读