来源:电子工程专辑
编辑:感知芯视界
过去近两年来,受消费电子市场需求疲软等因素影响,存储芯片产业游进入库存过剩、订单减少、价格暴跌的“寒冬”。三星、美光、SK海力士、铠侠等存储芯片大厂纷纷减产、去库存,但市场行情是否筑底众说纷纭,整体产业回暖的迹象亦不明显。
然而,在生成式AI对算力需求的带动下,2023年初以来高带宽内存(HBM)在整个存储芯片产业中可谓“这边风景独好”。目前,三星、SK海力士、美光等存储芯片大厂均在布局与抢占这一细分市场利好。
与此同时,随着AI对内存速率提出更高的要求,HBM威廉希尔官方网站 创新仍将持续不断演进。因此,相对整个存储芯片产业而言,HBM这一细分领域出现了产能和性能双提升的增长态势。
HBM增长势头强劲
HBM(High Bandwidth Memory)是一款新型的CPU/GPU内存芯片(即“RAM”),其实就是将很多个DDR芯片堆叠在一起后和GPU封装在一起,实现大容量、高位宽的DDR组合阵列,可被广泛应用于高性能计算、人工智能、图形处理和数据中心等领域。
整体来看,HBM具有超越一般芯片集成的RAM的特殊优势:一是高速、高带宽的特性使HBM非常适合用于GPU显存和HPC高性能计算、AI计算;二是由于采用了TSV和微凸块威廉希尔官方网站 ,HBM具备更好的内存功耗能效特性,相对于GDDR5存储器,HBM2的单引脚I/O带宽功耗比数值降低42%,更低的热负荷降低了冷却成本;三是在物理空间日益受限的数据中心环境中,HBM紧凑的体系结构也是其独特的优势。
今年初以来,ChatGPT突然爆火,带动了AI大模型的快速增长,使得具备高带宽和低功耗特性的HBM成为处理大规模数据和复杂计算任务的理想选择。据悉,2023年开年后,三星、SK海力士两家存储大厂HBM订单快速增加,价格也水涨船高,HBM3规格DRAM价格甚至上涨5倍。
过去数月里,HBM乘AI东风,市场关注度大幅上升。据悉,三星电子、SK海力士等韩国本土存储半导体企业正在推动HBM专用线的扩张。两家公司计划在2024年年底前投资超过2万亿韩元,使HBM生产线目前的产能增加一倍以上。SK海力士计划利用利川现有HBM生产基地的清州工厂的闲置空间。三星电子正在考虑扩大位于忠清南道天安市的HBM核心生产线。
另一大存储大厂美光也很早就嗅到AI应用商机,于2019年在中国台湾成立HBM部门。美光甚至表示,看好2022年至2025年HBM市场年复合成长率超50%。
当前,HBM市场呈现三足鼎立格局。TrendForce研究显示,2022年三大原厂HBM市占率分别为SK海力士占50%、三星约40%、美光约占10%。
从发展进程来看,2023-2024年将是AI建设爆发期,大量需求集中在AI训练芯片上,势必推升HBM使用量。预计2023年,HBM即便在原厂扩大产能的情况下,仍无法完全满足客户需求。从各原厂规划看,预计2024年HBM供给位元量将年增长105%。另据semiconductor-digest预测,到2031年,全球高带宽存储器市场预计将从2022年的2.93亿美元增长到34.34亿美元,在2023-2031年的预测期内复合年增长率为31.3%。
三星获英伟达HBM订单
在AI大模型热潮影响下,科技大厂接连布局AI大模型,掀起了AI大模型竞争之战,可以预见未来算力需求仍将大幅增长。目前,NVIDIA、AMD、Intel等高端AI芯片大多选择搭载HBM。而作为加速计算领导者,英伟达更是受益于ChatGPT引发AI大模型需求增长,今年以来股价累计涨幅已超过245%,目前(9月5日)市值已站上1.2万亿美元。
当前,在核心GPU(图像处理器)加速计算芯片供不应求的情形下,英伟达在加大GPU供应量的同时,也加速推出新一代算力更快的芯片——超级芯片GH200,以持续巩固AI大模型核心算力芯片供应商地位。
中信证券分析认为,目前英伟达数据中心加速卡销量仍主要以高端的A100/H100系列卡为主,其中台积电CoWoS环节产能为主要约束,考虑到封测设备的交货周期等因素,预计台积电CoWoS产能实质性改善至少应在2024Q2左右。
当然,除了CoWoS产能不足之外,HBM也是供不应求。目前,SK海力士是HBM3领域的全球领导者,迄今为止也是英伟达唯一为AI加速器提供HBM的供应商。有专家认为,HBM3是需高带宽的人工智能服务的理想选择。
然而,SK海力士一家远远难以满足英伟达对HBM的需求。据悉,英伟达计划到2024年出货最高200万颗H100。此前HBM供应商主要是SK海力士,但是产能也有限,如果英伟达不引入其他HBM供应商,那么要达成这一目标将变得相当困难。这势必迫使英伟达寻找更多的HBM供应商进行合作。
9月5日消息,据韩国媒体报导,三星电子已获得英伟达(NVIDIA)的高带宽内存(HBM)订单。据悉,三星的HBM已通过NVIDIA的第四次测试,也是最后一次品质测试。随后,两家公司已同意签订供应协议。根据该协议,双方的供货最早可能在10月启动。现在NVIDIA已经拥有SK Hynix和三星作为其HBM供应商,这使得AI GPU的产量能够提升。
花旗集团分析师也曾在一份报告中写道,三星电子将从第四季度开始供应HBM3新一代内存,经过优化配合人工智能加速器使用。未来,随着三星的加入,英伟达将在很大程度上缓解GPU供应不足的压力。
HBM威廉希尔官方网站 不断演进
未来数年,HBM的发展“钱景”被存储大厂广受看好。而在当前高性能计算应用对内存速率提出更高要求的背景下,HBM威廉希尔官方网站 将继续进行改进和创新。
从威廉希尔官方网站 发展趋势看,HBM促使DRAM从传统2D加速走向立体3D,充分利用空间、缩小面积,契合半导体行业小型化、集成化的发展趋势。具体来看,增加堆叠层数、提高数据传输速度和密度,以及降低功耗和成本等方面的改进,将推动HBM威廉希尔官方网站 的进一步发展。
目前,HBM内部的DRAM堆叠属于3D封装,而HBM与AI芯片的其他部分合封于Interposer上属于2.5D封装,是典型的Chiplet应用。
过去十年里,高带宽和高密度的HBM解决方案不断涌现,使得数据传输速度更快、容量更大,同时降低功耗和占用空间。据悉,HBM发展至今第四代性能不断突破。自2014年首款硅通孔HBM产品问世至今,HBM威廉希尔官方网站 已经发展至第四代,分别是:HBM(第一代)、HBM2(第二代)、HBM2E(第三代)、HBM3(第四代),HBM芯片容量从1GB升级至24GB,带宽从128GB/s提升至819GB/s,数据传输速率也从1Gbps提高至6.4Gbps。
为了抢占未来HBM市场,目前各大存储大厂也在不断提升HBM威廉希尔官方网站 性能。近日,美光中国台湾地区董事长卢东晖就表示,美光有多达65%的DRAM产品在中国台湾生产,继日本厂于2022年10月开始量产1β(1-beta)制程威廉希尔官方网站 后,中国台湾现在也开始量产1-beta制程。同时,台日团队还研发新一代的1-gamma制程,是美光第1代采用极紫外光(EUV)的制程威廉希尔官方网站 ,将在2025年上半年先在台中厂量产。
而三星早在2022年10月召开的Samsung Foundry Forum 2022活动上,就对外公布了DRAM威廉希尔官方网站 路线图。按照规划,三星将于2023年进入1bnm工艺阶段,芯片容量将达到24Gb(3GB)- 32Gb(4GB),原生速度将在6.4-7.2Gbp。
今年5月,三星已宣布量产12纳米级16Gb DDR5 DRAM,随后9月宣布采用12纳米(nm)级工艺威廉希尔官方网站 ,开发出其容量最大的32Gb DDR5 DRAM,全新12纳米级32Gb DDR5 DRAM计划于今年年底开始量产。
尽管各大储存厂商正不断加码HBM,但其威廉希尔官方网站 创新仍需克服两大主要问题:一是HBM需要较高的工艺,进而大幅度提升了成本;二是大量DRAM堆叠,和GPU封装在一起,产生大量的热,如何散热是极大的挑战。
整体来看,存储产业出现了分化的市场行情:一方面在多类消费电子需求疲弱背景下,多家NAND Flash厂商仍在减产,另一方面因AI服务器需求增加,与AI场景高算力需求匹配的HBM需求上升。然而,AI浪潮催化下的DRAM行情虽有好转迹象,但整个存储芯片产业似乎仍待实际需求支撑。
*免责声明:本文版权归原作者所有,本文所用图片、文字如涉及作品版权,请第一时间联系我们删除。本平台旨在提供行业资讯,仅代表作者观点,不代表感知芯视界立场。
今日内容就到这里啦,如果有任何问题,或者想要获取更多行业干货研报,可以私信我或者留言
审核编辑 黄宇
-
芯片
+关注
关注
455文章
50731浏览量
423196 -
存储
+关注
关注
13文章
4298浏览量
85806 -
内存
+关注
关注
8文章
3020浏览量
74008 -
AI
+关注
关注
87文章
30761浏览量
268904 -
GPT
+关注
关注
0文章
354浏览量
15345
发布评论请先 登录
相关推荐
评论