AIGC浪潮下,HBM迎来快速成长期 | 钛投研

深度
算力基础。

随着人工智能、大数据和云计算等产业发展,对高性能内存需求不断攀升,HBM相对于传统DRAM,具有高带宽、高容量、低功耗和低延迟等优点,更适合ChatGPT等高性能计算场景,迎来快速成长期。

根据Mordor Intelligence预计,2023年全球HBM市场规模为20.4亿美元,2028年有望达到63.2亿美元,CAGR为25.38%;而TrendForce预计2025年HBM全球市场规模将会突破100亿美元。

四季度存储芯片市场价格经过前期下跌后出现止跌反弹,存储板块也有所上涨,其中HBM板块上涨幅度较存储板块更大,目前板块较10月中下旬低点上涨33.64%,本文来对HBM产业进行一下分析。

资料来源:wind,钛媒体产业研究部

主要应用于高端GPU,AIGC催生产品需求

HBM(High Bandwidth Memory)即高带宽存储,行业标准组织JEDEC(电子工程器件联合委员会)将DRAM分为三类,标准DDR、移动DDR以及图形DDR,其中图形DDR包括GRRD和HBM。

处理器计算能力近年得到大幅增长,但内存性能的提升速度却远远落后,导致内存性能很大程度上限制了处理器性能的发挥,在对数据处理时间大幅延长的同时也大幅提升了能耗,引发“内存墙”的问题。

相比DDR4和DDR5等产品,HBM通过TSV(硅通孔)垂直堆叠多个DRAM,突破了带宽和容量瓶颈,使GPU具有更快并行处理速度,目前主要应用于高端GPU中。

从2014年全球首款HBM产品问世至今,已发展至第四代HBM3,带宽和容量分别从最初128GB/S和1GB提升至819GB/S和24GB,传输速度从1Gbps提高至6.4Gbps。

而SK接下来将要发布的HBM3E与HBM3相比,传输速度将提高25%,由6.4Gbps提高至8Gbps,带宽也提升至1TB/S。

英伟达首款搭载HBM3E的最新一代AI处理器H200预计将于2024年第二季度上市,显存为141GB,带宽为4.8TB/S,与H100相比,容量提升76.25%,带宽提升43.28%。

目前HBM约占整个DRAM市场份额的1.5%,随着AIGC模型对AI服务器需求快速增长,HBM渗透率有望加速提升,根据TrendForce数据,2022年全球AI服务器出货量85.5万台,预计到2026年出货量将达到236.9万台,CAGR为29.02%。

在AIGC模型训练侧,目前AI服务器主要采用中高端GPU,HBM在其中渗透率接近100%;而在推理侧AI服务器GPU目前主要采用中低端,HBM渗透率较低,未来随着AIGC模型逐渐复杂化,中高端GPU占比将会提升,相应的HBM渗透率也将逐步提升。

TSV和ALD为核心工艺,存算一体是未来发展趋势

从结构上看,HBM是用3D堆叠方式集成多片DRAM,DRAM之间通过TSV(Through Silicon Via)进行连通,DRAM下面为DRAM的逻辑控制单元,GPU和DRAM通过Interposer(硅中介层)封装在一起。

TSV可以穿过硅基板实现硅片内部垂直电互联,是目前唯一垂直电互联技术,相比平面互联,TSV可减小互联长度和信号延迟,实现了芯片间的低功耗和高速通信,在HBM封装成本中TSV占比最高,接近30%,是HBM的核心工艺之一。

英伟达A100采用的就是台积电第4代CoWoS(Chip on Wafer on Substrate)封装技术,通过TSV将6个三星HBM2和一颗A100 GPU集成在一个硅中介层上,通过RDL(Redistribution Layer)和TSV实现互连并连接硅中介层凸点。

除TSV外,ALD也是HBM核心工艺之一,ALD(Atomic Layer Deposition)即原子层沉积,是将原子逐层沉积在衬底材料上,通过两种或多种前驱体交替通过衬底表面,发生化学反应逐层沉积在衬底表面成膜。

通过TSV完成深孔制作后,需要进行电化学镀铜实现金属沉积形成导线,由于铜化学性质活泼,需要在电镀前用ALD沉积氮化钨形成扩散阻挡层,以防止铜由于电化学迁移导致物理失效。

此外,在DRAM工艺中,由于传统SiO2栅极电介质受介电性能影响,45nm以下制程芯片会产生隧穿现象从而导致漏电,降低晶体管可靠性,通过ALD沉积High-K Mental Gate(高电介质金属栅极)可大幅降低栅极漏电流,同时降低工作电压。

目前HBM位于GPU的硅中介层上,通过接口与GPU连接,根据SK海力士计划,未来HBM4将会直接堆叠到GPU上,不再需要硅中介层,集成式简化芯片设计的同时降低成本。

GPU逻辑芯片与HBM存储芯片将成为一个整体,通过在存储器中嵌入计算能力,打破存储瓶颈的同时降低延迟和功耗,同时使用存储单元提升算力,进而大幅提升计算效率,是HBM未来发展趋势。

SK海力士和三星主导市场,国内主要集中在上游

HBM市场高度集中,主要由SK海力士和三星主导,根据TrendForce统计,2022年SK海力士和三星HBM市场份额分别占50%和40%,美光占比10%。

由于SK海力士、三星以及美光均采用IDM模式,芯片设计、制造与封测均由自己负责,国内厂商主要涉及产业链上游设备和材料环节。

中微公司为国内TSV设备主要供应商,公司于2010年推出国内首台TSV深孔硅刻蚀设备,目前可提供8英寸和12英寸硅通孔刻蚀设备,刻蚀孔径从低至1微米以下到几百微米。

拓荆科技为国内ALD设备主要供应商,公司PEALD产品主要用于沉积SiO2和SiN等介质薄膜,Thermal-ALD设备已出货至不同客户端进行验证,可沉积Al2O3等金属氧化物薄膜。

兴森科技为国内IC载板龙头,公司2018年成为三星在国内唯一载板供应商,目前公司CSP封装基板产能3.5万平米/月,公司还在珠海和广州投资建设FCBGA封装基板项目。

深科技2015年通过收购沛顿科技进入存储芯片封测领域,目前公司Bumping项目已通过小批量试产,接下来将会陆续释放产能。

雅克科技为国内ALD沉积主要材料前驱体供应商,公司前驱体还供应SK海力士,公司还布局Low-α球形硅粉项目。

飞凯材料业务涉及HBM环氧塑封料封装材料,客户包括国内大型半导体封装OSAT厂商以及分立器件厂商。

资料来源:公司公告,钛媒体产业研究部

(本文首发钛媒体App,作者|钛媒体产业研究部。想获得更多科股深度分析,可订阅科股宝VIP栏目。)

单篇付费 ¥19.90 可解锁全文
解锁全文
科股宝VIP由钛媒体App与北京商报联合推出,相关数据及信息已获得北京商报授权。 风险提示:本产品内容仅供参考,不构成投资建议。投资有风险,入市需谨慎。
科股投研

敬原创,有钛度,得赞赏

赞赏支持

科股 · 一级市场更多投融资数据

日投融资总额(亿元)

IPO
  • 沪市主板
  • 深市主板
  • 科创板
  • 创业板
  • 北交所
更多

扫描下载App

Baidu
map