老董的视界深处

· Goldman Sachs · 公司/行业基本面

高盛 全球科技:半导体与存储:高性能NAND有助于打破人工智能“存储墙”,同时推动显著的资本开支节约

摘要公开阅读;PDF 仅限有效会员阅读与下载,所有会员权限相同。 邮件登录

摘要

本报告探讨了高性能NAND(HBF)作为解决AI推理中日益严重的内存瓶颈的潜力。 随着AI推理工作负载向内存密集型转变,上下文窗口呈指数级增长,HBF通过提供高密度、近计算存储,有望在提升GPU利用率的同时,将推理吞吐量的整体成本降低约30%。 高盛预计,到2030年,在GPU采用率为15%-50%的情况下,HBF的潜在TAM约为1,000亿至1,500亿美元。 尽管面临延迟、耐用性和热管理等挑战,但HBF在系统级经济效益上的优势使其成为超大规模数据中心运营商的有力候选方案。

主要观点

  • AI推理工作负载的激增导致对高带宽、近计算存储的需求结构性上升。
  • HBF通过增加GPU利用率,可将推理吞吐量的整体成本降低约30%。
  • 在牛市情景下,预计到2028年底,HBF位元将占全球NAND位元出货量的约4%。
  • 由于HBF的晶圆尺寸惩罚,其将占据约9%的NAND晶圆产能。
  • HBF提供约512GB的单堆栈容量,比HBM高出约16倍。
  • HBF在规模化应用中可实现约2.7倍的能效提升。
  • HBF面临的主要挑战包括延迟、耐用性、热管理及制造资源密集度。

论述逻辑

  • AI推理上下文窗口扩大 -> 内存带宽与容量瓶颈加剧 -> 现有HBM容量受限且成本高昂 -> 引入高密度HBF作为近计算存储 -> 提升GPU利用率并降低系统级TCO -> 推动超大规模数据中心采用HBF。

关键展望

  • 短期内NAND供应将持续紧张,HBF可能延长当前周期。
  • Kioxia计划在2026年底前出样超过1000万IOPS的产品,并在2027年推出1亿IOPS的第二代产品。

推荐标的

  • SanDisk (SNDK): 买入,目标价2,200美元。
  • SK Hynix (000660.KS): 买入,目标价3,500,000韩元。
  • Samsung Electronics (005930.KS): 买入,目标价500,000韩元。
  • Kioxia (285A.T): 买入,目标价38,667日元。
  • Micron (MU): 中性,目标价1,250美元。
  • Nvidia (NVDA): 买入,目标价300美元。

关键图表

图1. 常见大语言模型上下文窗口随时间增长情况

**图1. 常见大语言模型上下文窗口随时间增长情况**

图3. 高带宽闪存(HBF)的横截面架构

**图3. 高带宽闪存(HBF)的横截面架构**

图4. 存储层级示意图

**图4. 存储层级示意图**

图5. 仅使用HBM与H3 GPU存储架构的每百万token成本对比及HBF每GB价格情景分析

**图5. 仅使用HBM与H3 GPU存储架构的每百万token成本对比及HBF每GB价格情景分析**

图6. 总拥有成本(TCO)及单次查询服务成本

**图6. 总拥有成本(TCO)及单次查询服务成本**

图7. H3侧面横截面视图

**图7. H3侧面横截面视图**

图9. HBF在全球NAND存储容量及全球NAND晶圆产能中的占比

**图9. HBF在全球NAND存储容量及全球NAND晶圆产能中的占比**

图10. 全球HBF预测模型

**图10. 全球HBF预测模型**

图11. 我们覆盖范围内受HBF影响的精选股票

**图11. 我们覆盖范围内受HBF影响的精选股票**

查找相关研报 →