电子行业：存储是Tokens的积分，推理驱动AI存储快速增长－AI的进击时刻18 250919

核心观点

AI 服务器中的存储主要包括 HBM、DRAM、SSD 等。AI 服务器中的存储主要包括 HBM、DRAM、SSD 等，呈现性能逐级下降、容量逐级增加、成本逐级降低特征。访问频繁或者随时变更的数据会保留在较高的存储层，例如性能高的层次如 CPU/GPU 缓存、高带宽内存（HBM）和动态 RAMS；而鲜少访问或需要长期保存的数据将移动到较低的存储层，例如 SSD 和硬盘驱动器。

AI 推理中的分级存储协同支撑高效计算。HBM 集成于 GPU 内部，为权重和激活值提供高带宽临时缓冲，支撑并行计算和低延迟推理。DRAM 作为系统内存，存储中间数据、批处理队列及模型输入输出，实现 CPU 与 GPU间高效数据传递。本地 SSD 用于实时加载模型参数和数据，满足高频读写需求，并存储短期检查点与临时生成内容，支撑快速迭代。HDD 提供经济大容量，用于保存原始数据、历史检查点及生成内容，保障系统长期运行与数据安全。整体来看，HBM 与 DRAM 提供即时高性能支撑，SSD 保证快速可用数据，HDD 则保障容量与可靠性，构建从高速临时访问到长期存储的完整 AI 推理生态。

推理驱动 AI 存储快速增长。（一）内存受益于超长上下文和多模态推理需求，处理大量序列数据或多模态信息时，高带宽与大容量内存可降低访问延迟、提升并行效率。例如月之暗面 Mooncake 通过存储资源重构实现计算效率跃迁，Vera Rubin CPX NVL144 机柜新增 GDDR7，AMD MI400 升级为 MRDIMM 模组，华为 UCM 推理记忆数据管理器实现智能调度，共同支撑复杂模型在长序列和多模态场景下的高性能推理。（二）SSD 和 HDD是 Tokens 的积分。我们对推理所需 SSD、HDD 需求进行测算，基于以下关键假设：假设一、参考谷歌 2025.06单月处理超 980 万亿 tokens，假设中短期内全球谷歌级推理应用数量达到 10 个；假设二、假设推理端数据均存储为 FP16 格式；假设三、除模型输入输出文本数据以外，在长上下文场景下，存储数据也包含额外调试/分析信息，比如 top-k log logprobs、时间戳、JSON 元数据等。由此测算，2026 年 10 个谷歌级推理应用所需存储容量为 49EB，

投资建议。随着 AI 推理应用快速增长，对高性能内存和分层存储的依赖愈发显著，HBM、DRAM、SSD 及 HDD在超长上下文和多模态推理场景中发挥关键作用，高带宽内存保障模型权重和激活值的高速访问，SSD 满足高频读写与短期存储需求，HDD 提供海量长期存储支持。随着 AI 推理需求快速增长，轻量化模型部署推动存储容量需求快速攀升，预计未来整体需求将激增至数百 EB 级别。建议关注产业链核心受益标的。

风险提示。AI 产业发展以及需求不及预期；AI 服务器出货量不及预期，国产厂商技术和产品进展不及预期。