电子行业:以存代算,华为存储开创大模型训推新范式-华为研究之存储250818
这篇研报讲什么?
摘要原文摘录以存代算:记性好,也是聪明的一种!提升大模型训推的方向,不止有GPU、HBM 与组网交换机,SSD 存储也是重要一环。存储作为贯穿大模型训练与推理全流程的核心基础设施,在训练侧,高性能存储可显著缩短数据加载与 CKPT 读写时间,降低 GPU 空耗;在推理侧,“以存代算”通过 SSD作为分级缓存承载 KV Cache,有效缓解显存瓶颈,延伸上下文、提升并发…
机构观点归属东北证券,研报雷达仅作摘要整理与机构观点聚合。以下为研报摘要原文摘录,内容以原始报告为准。
研报摘要
报告摘要
以存代算:记性好,也是聪明的一种!提升大模型训推的方向,不止有GPU、HBM 与组网交换机,SSD 存储也是重要一环。存储作为贯穿大模型训练与推理全流程的核心基础设施,在训练侧,高性能存储可显著缩短数据加载与 CKPT 读写时间,降低 GPU 空耗;在推理侧,“以存代算”通过 SSD作为分级缓存承载 KV Cache,有效缓解显存瓶颈,延伸上下文、提升并发、降低时延。推理必将超越训练成为算力需求核心增长极。消费级应用爆发与商业化落地带动调用量激增,Agent、多模态、RAG 等场景推动推理链路显著拉长,现有架构难以同时兼顾成本、性能与效果。推理架构优化由早期单点提升转向系统级协同,PD 分离框架成为行业重点,通过“以存(查)代算”减少重复计算,显著降低时延与成本。受限于 HBM/DRAM 容量,溢出数据需落盘至 SSD,分级缓存调度算法、支持分级缓存的底层存储系统及提升 KV Cache 读写性能的硬件成为关键突破方向。华为依托软硬结合的系统性优化,修成“以存代算”之道。硬件方面,AI SSD 向上承接 HBM/DRAM 溢出温热数据、向下替代 HDD 承载温冷数据,已成为算力基建的重要发展方向。华为自研 DoB 堆叠与高密度封装工艺将单盘容量由 30.72TB 提升至即将量产的 122.88TB,规划至 245TB;自研 Hi1812 主控;引入数据缩减加速卡、块文件对象融合架构、跨代在线扩容及多种 NVMe over Fabric 协议等技术。软件方面,UCM 统一记忆数据管理器构建 HBM-DRAM-SSD 三级缓存体系,结合全局 Prefix Cache、长序列稀疏加速、后缀检索预测等,实现首 token 时延最高降 90%、吞吐率最高升22 倍、上下文窗口扩展至 10 倍以上,并通过开放接口对接主流推理框架与存储生态。2025 年 8 月 19 日,“华为数据存储 AI SSD 新品发布会”还会发布相应的 AI SSD 产品。针对上述产业趋势,本文整理了以下相关标的:1)华为推理架构优化方案加速落地——华为在推理架构优化领域推出UCM 统一记忆数据管理器这一强竞争力方案,预计在智算中心及行业大模型应用中加速渗透,相关标的包括天源迪科、中建信息、银信科技、电科数字等华为存储代理商。2)高密度 AI SSD 零部件环节——高容量 SSD 在 AI 场景下对热管理能力要求显著提升,相关标的包括存储散热片供应商鸿日达。3)存储介质与模组环节——华为不自产 NAND 颗粒,相关产业链包括长江存储产业链;除华为外,其他模组厂商也与 AI SSD 渗透率提升有关,相关标的包括江波龙、佰维存储。4)先进封装与 PCB 产业链——AI SSD 依托先进 DoB 堆叠工艺(类似华为“CoWoP”技术),将带动 PCB 及上游相关领域需求增长,相关标的包括深南电路、方正科技、生益电子、兴森科技、方邦股份;在先进封装材料领域,相关标的包括华海诚科、德邦科技。5)SSD 主控芯片环节——在工艺与布线复杂度提升背景下,SSD 底层误码率可能上升,对主控芯片的纠错能力与可靠性要求提高,相关标的包括联芸科技、德明利、紫光股份、国科微。
风险提示
技术迭代风险、需求波动风险、竞争加剧风险
同公司研报
继续比较不同机构对同一公司的判断。
同行业近期研报
从单家公司继续回到行业研究。