天天看点

HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元

作者:未来智库

(报告出品方/作者:华鑫证券,毛正、张璐)

存储紧随AI步伐, H B M 应运而生

DRAM份额稳居存储市场第一

存储器是用来存储程序和数据的部件,对计算机来说,有了存储器,才能有记忆功能,才能保证正常工作。存储器的 种类很多,按其介质的不同,将存储器分为光学存储、半导体存储和磁性存储三大类。

半导体存储可分为易失性存储芯片(RAM)和非易失性存储芯片(ROM)。其中,易失性存储主要以SRAM (静态随 机存储器) 和DRAM (动态随机存储器)为主。非易失性存储从早期的ROM(PROM、EPROM、EEPROM)到闪存 ( NOR Flash和NAND Flash)。 根据传输速度、容量、数据可擦除性等关键参数,不同存储器拥有各自适用的领域,以计算机系统中的使用来看: SRAM速度够快,通常作为中央处理器(CPU)的缓存使用,DRAM价格低廉、容量大,通常用作内存,NAND Flash用于 大数据存储,NOR Flash通常用于代码存储。 在存储行业产品的市场占有率方面,DRAM以超过50%的份额稳居第一,紧随其后的是NAND,占比约为41%。NOR则 保持稳定,维持着约1%左右的市场份额,其他产品如EEPROM等则占据约1%的市场份额。

GDDR、HBM适用于高性能计算

在HBM出现之前,DRAM按照产品分类主要分为DDR、LPDDR和GDDR。其中DDR适用于计算机、服务器和其他高性 能计算设备等领域;LPDDR适合移动设备和嵌入式系统等需要长时间使用的场景,如手机、平板、穿戴等;GDDR是为了 设计高端显卡而特别设计的高性能DDR存储器规格,它比主内存中使用的普通DDR存储器时钟频率更高,发热量更小,所 以更适合搭配高端显示芯片。

AI时代新需求,HBM应运而生

随着人工智能技术的快速发展,传统的GDDR内存逐渐达到其技术发展的瓶颈。 1)GDDR5无法跟上GPU性能发展:AI训练的参数量每两年增长410倍,而单GPU内 存仅以每两年2倍的速度增长;硬件的峰值计算能力20年中提升了60,000倍,但 DRAM带宽的增长却仅提高了100倍,互连带宽只提升了30倍。内存难以跟上AI硬件的 计算速度,限制了AI芯片性能发挥,形成了“内存墙” ;2)GDDR5限制了外形尺寸: 为实现高带宽,越来越多的GDDR5和电路要集成在一起会限制产品的尺寸;3)片上 集成并非万能:片上集成的兼容和可拓展性受到限制。HBM的出现克服传统GDDR在 带宽上的局限,并突破内存墙的限制,以适应AI时代对高算力和高带宽内存的需求。

海内外需求缺口扩大, HBM 量 价 齐 升

HBM实现高带宽、低延迟和低功耗

HBM全称为High Bandwidth Memory,即高带宽内存,它将多个DDR芯片垂直堆叠在一起后和GPU封装在一起。与 传统的DRAM相比,它确保了更多的I/O(Input/Output,输入/输出)通道,一次可以传输大量的数据,在较小的物理空间 内实现高带宽、低延迟和低功耗,从而成为数据中心等应用场景的新一代内存解决方案。

海外三大存储原厂三分HBM天下

全球HBM市场长久以来都由三大存储原厂牢牢占据龙头地位。根据高盛的数据, 2023年HBM市场的竞争格局中,海力士约占54%,三星占41%,美光占5%。海力士目 前占据市场主导地位,三星紧随其后追击,而美光虽然目前市场份额较小,但正在积极 扩大产能和技术。由于HBM3E产能不足,三大巨头或都进入英伟达供应链,目前美光 抢先获得英伟达H200订单,海力士也开始量产供货英伟达,三星已通过AMD MI350的 验证,英伟达方面的验证时间稍晚于其他两家。

国内HBM初起步,三大巨头推进产线建设

国内DRAM市场大部分份额仍然被三 星、海力士和美光等占据,还有部分台湾 厂商南亚科技、华邦电子等角逐市场份额, 国内厂商的市场份额相对较小,主要 DRAM厂商有兆易创新、北京君正、东芯 股份、长鑫存储、紫光国微、福建晋华等。 国内HBM国产化刚刚起步,存储巨头 加速推进。国内存储厂商武汉新芯和长鑫 存储正处于HBM制造的早期阶段,主要是 为了应对未来人工智能(AI)和高性能计 算(HPC)领域的应用需求。其中武汉新 芯正在针对HBM建造月产能3000片晶圆 的12英寸工厂,长鑫存储则与封装和测试 厂通富微电合作开发了HBM样品,并向潜 在的客户展示。

AI需求强劲驱动,HBM量价齐升

AI和高性能计算(HPC)领域的需求是HBM 增长的主要驱动力。HBM显著的高速、高带宽和 低功耗特性使得它在AI和高性能计算领域中具有 广泛的应用前景。AI服务器主流GPU如H100、 A100、A800以及AMD MI250、MI250X等基本 都配备了HBM。后续推出的王牌产品也持续升级 HBM最新迭代版本,对HBM需求居高不下。 全球各大科技巨头都在竞购HBM,AI浪潮下 HBM市场规模将快速增长。根据腾讯科技的测算, 2024年全年,全球经由CoWoS封装的GPU产品, 产能约为900万颗。按照单颗GPU逻辑芯片搭配6 颗HBM内存颗粒的标准计算(部分搭配8颗 HBM),全球2024年的GPU,对HBM内存的需 求就在5400万颗以上(12层为主)。 TrendForce预估2023年全球HBM需求量将年增 近60%,2024年将再成长30%。

三大关键工艺占据 产业链价值高地

TSV:刻蚀成本近一半

TSV是HBM生产流程中最核心的工艺。TSV(Through Silicon Via)为硅通孔技术,是通过在芯片和芯片之间、晶圆 和晶圆之间制作垂直导通,实现芯片之间互连的技术。TSV技术允许在硅晶圆内部创建垂直互连,这是实现多层DRAM芯片 堆叠的基础。它通过垂直互连减小互连长度,减小信号延迟,降低电容、电感,实现芯片间的低功耗、高速通讯,增加带宽 和实现器件集成的小型化。 TSV也是价值量占比最高的环节。以4颗5mmx7mm的存储芯片堆叠在一颗逻辑芯片上的HBM结构为例,假设薄晶圆 处理良率和TSV形成的良率为98%,TSV工艺的成本约占整体封装成本的30%,是其中占比最大的环节。

凸点制造:走向混合键合

Bumping(凸点制造)是在芯片上制作凸点,通过在芯片表面制作金 属凸点提供芯片电气互连的“点”接口,广泛应用于FC、WLP、CSP、3D 等先进封装。该工序需要先整体形成UBM层并用作电镀的导电层,然后再 用光刻胶保护不需要电镀的地方。一旦电镀形成了厚的凸点后,再除去光 刻胶并刻蚀不需要的UBM,然后经回流形成凸点阵列。

凸点间距推进至10μm以下,走向混合键合 (Hybrid Bonding)。凸点间距越小,意味着凸 点密度增大,封装集成度越高,难度越来越大。目 前凸点间距最小达40μm;当间距<40μm时,采 用基于热压键合(TCB) 的连接技术;但当走向 更小的凸点间距(10μm以下)时,混合键合以细 间距(<1-20μm)形成直接Cu-Cu键合,是最有 竞争力的互联方法,未来将广泛替代微凸点和铜柱 凸点。

堆叠:MR-MUF助力海力士

在HBM堆叠过程中,通常需要使用一些材料来保护芯片和互连,以及确保堆叠结构的机械稳定性和电气性能。传统的 HBM采用TC-NCF(Non-Conductive Film,非导电膜)来进行堆叠,每次堆叠时在各层之间放置一层非导电粘合膜,用于 将芯片彼此隔离,并保护连接点免受冲击。目前三星和美光都继续采用TC-NCF,而海力士则采用了另外一种MR-MUF (Mass Reflow Molded Underfill,批量回流模制底部填充),在芯片向上堆放时,在芯片和芯片之间使用EMC(环氧塑 封料)填充和粘贴。相比TC-NCF,MR-MUF将芯片堆叠压力降低至6%,也缩短工序时间,将生产效率提高至4倍,散热率 提高了45%。

重点公司分析

中微公司:半导体设备领军者,持续布局高端产品

中微公司成立于2004年,主要从事半导体设备的研发、生产 和销售,于2019年上市。公司主要为集成电路、LED芯片、MEMS 等半导体产品的制造企业提供刻蚀设备、MOCVD设备及其他设备。 公司的等离子体刻蚀设备已应用在国际一线客户从65纳米到14纳 米、7纳米和5纳米及其他先进的集成电路加工制造生产线及先进封 装生产线。公司MOCVD设备在行业领先客户的生产线上大规模投 入量产,公司已成为世界排名前列的氮化镓基LED设备制造商。

拓荆科技:CVD设备龙头,混合键合设备打开第二增长极

拓荆科技成立于2010年,是国内半导体设备行业重要的领军企业之一,公司三次 (2016年、2017年、2019年)获得中国半导体行业协会颁发的“中国半导体设备五强 企业”称号。主要产品包括等离子体增强化学气相沉积(PECVD)设备、原子层沉积 (ALD)设备和次常压化学气相沉积(SACVD)设备三个产品系列,已广泛应用于国 内晶圆厂14nm及以上制程集成电路制造产线,并已展开10nm及以下制程产品验证测 试。公司的产品已适配国内最先进的28/14nm逻辑芯片、19/17nm DRAM芯片和 64/128层3DNANDFLASH晶圆制造产线。

赛腾股份:消费电子、半导体双轮驱动业绩增长

赛腾股份成立于2001年,公司一直专注于自动化设备领域的高新科技企业, 在消 费电子、半导体等智能组装、检测、量测等方面具有较强的竞争优势和自主创新能力, 同时拥有多项自主研发的核心技术成果。公司已成为国内外众多知名企业优质的合作 伙伴。公司自动化设备主要包括非标准化自动化设备及标准化自动化设备两大类,在 消费电子行业主要是非标准化自动化设备;在半导体行业主要是行业标准设备,具体 产品如固晶设备、分选设备、晶圆包装机、晶圆缺陷检测机、倒角粗糙度量测、晶圆 字符检测机、晶圆激光打标机、晶圆激光开槽机。

报告节选:

HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元
HBM行业专题报告:跨越带宽增长极限,HBM赋能AI新纪元

(本文仅供参考,不代表我们的任何投资建议。如需使用相关信息,请参阅报告原文。)

精选报告来源:【未来智库】。未来智库 - 官方网站

继续阅读