AI时代的存储产品长什么样？

芝能科技出品半导体巨头Broadcom（博通）公布了其2024财年第一季度（Q1）财报：● 博通在2024Q1实现了营收119.6亿美元，同比增长34%，超过市场预期（118亿美元）。● 调整后每股收益（EPS）为10.99美元，同比增长6%，同样超过市场预期（10.42美元）。 ● 如果排除...

去年，存储市场最受关注的“明星单品”莫过于HBM（高带宽内存），这背后的主要推手是生成式人工智能潮流。

AI时代的存储产品是怎么样的呢？在近期的CFMS | MemoryS 2024峰会上，芯师爷等半导体行业媒体就此话题与美光企业副总裁暨存储部门总经理 Jeremy Werner进行了交流。

美光企业副总裁暨存储部门总经理 Jeremy Werner在CFMS | MemoryS 2024峰会上演讲，图源：CFMS

01

数据中心需要哪些存储产品

以数据中心为例。数据中心是AI的核心，数据中心最主要的资产是数据，海量数据分析对于计算、内存和存储配置的需求，将存储推向新的战略地位。因此，数据中心使用数据的方式决定了其需要哪些存储产品。

“对于我们的计算系统来说，它的设计方法就是在你需要的时候找到合适的数据来匹配你的速度。”Jeremy先生介绍道。

按照调取速度的快慢与成本的高低，数据中心所需要的内存和存储产品可以分成四个层级。

第一个层级处于金字塔顶端，对应工作速度非常快，但是成本非常昂贵的内存，比如HBM。作为内存芯片，它可以将大量数据快速喂养给GPU。目前，美光已经量产了HBM3E产品，产品正在送样阶段。12层堆栈的HBM3E产品容量可达36GB，使得每个GPU可获得288GB的HBM容量。

金字塔的第二层级是DDR5内存层，其速度同样很快。Jeremy先生表示，美光DDR5采用1Beta制程工艺，存储密度提升45%，延迟降低17%，功耗降低24%。

不过，DDR5内存在价格上同样很昂贵。为了能以更高的性价比给大模型训练提供更大的容量，美光在金字塔的第三层推出了CZ120 CXL内存扩展方案，最多可以扩展2TB内存容量。此外，添加可扩展内存后，Llama2 LLM的推理性能提升了22%，可以更大程度释放GPU性能。

在金字塔的底部，则对应那些速度比较慢，成本更低的SSD存储产品。目前美光已经推出基于232层的7500 SSD，以及专为高性能AI应用设计的9400 SSD和6500 ION SSD。

对于数据中心存储的分层设计理念，Jeremy 先生进一步补充道，“你可以通过这个金字塔去找到所有你想找的数据，只不过效率有所不同而已。每一层我们在设计的时候都必须达到一个平衡——必须在容量、性能以及成本之间达成一个非常好的平衡，以满足不同层次的客户和消费者的需要”。

02

AI时代对存储产品的挑战

从数据中心到边缘的端侧，生成式人工智能对产品、设备以及相关解决方案的性能和容量提出了更高要求。以AI PC为例，想将大模型装进电脑，电脑的存储产品性能和容量必须同步升级。

“从性能来说，意味着需要更好地管理功耗，从而让电池的寿命和续航更长，同时确保设备不会出现过热或过载的情况。如果从容量的角度出发，PC的价位需要控制在一个比较合适的水平，以确保消费者和客户端能够接受。”Jeremy 先生分享道。

那如何来解决这个问题呢？Jeremy先生表示，对于美光来说，QLC NAND是解决容量问题的重要路径。因为通过QLC技术，可以做到非常低的产品成本，同时不断提升存储容量。

此外，在性能上，从QLC NAND的角度来说，既可以确保产品的功耗维持在非常低的水平，同时在需要调取相关数据进行读取和写入的时候，又能够迅速唤醒整个系统。

“QLC能在对用户体验不妥协的情况下实现三者（成本、性能、容量）的平衡与完美结合。”Jeremy先生说道。

展望未来的AI时代，对于何为一款好的存储产品，Jeremy先生也表达了自己的观点。他表示，无论是对数据的存储，还是数据的调用来说，最为宝贵的就是必须建立起彼此之间的信任。“可靠性包括安全性、产品性能、耐用性、服务质量、延迟度、容量和价格等等，这些都很重要，但排在第一位的永远是信任”。