0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

算力需求催生存力风口,HBM竞争从先进封装开始

时光流逝最终成了回忆 来源:电子发烧友网 作者:李宁远 2023-12-03 08:34 次阅读

电子发烧友网报道(文/李宁远)今年是生成式AI爆火的一年,各类基于生成式AI的工具席卷了今年的各类热点,最近视频领域Pika labs的产品也掀起了AI文生视频的热潮。而在生成式AI的推动下,HBM无疑是今年最火热的高端存储产品。

在AI芯片需求不减竞争加剧的背景下,全球最大的两家存储器芯片制造三星和SK海力士都在积极扩大HBM产量抢占AI芯片存力风口。与此同时,作为HBM头部厂商的SK海力士和三星在推进HBM迭代的同时,仍在不断探索新的HBM芯片封装威廉希尔官方网站 。

三星此前一直在竭尽全力开发先进封装威廉希尔官方网站 如I-cube、H-cube和X-cube,近期又宣布将研发先进3D封装威廉希尔官方网站 SAINT。而SK海力士则在持续研发主打的基于TSV的封装工艺外,近期披露准备在下一代DRAM中应用扇出封装威廉希尔官方网站 ,探索HBM低成本路线。

传统封装无法匹配HBM需求,台积电CoWoS供不应求


人工智能算力发展如火如荼发展的当下,存力和算力一样,是风口上的刚需。高性能计算里很大一部分瓶颈在于处理器与DRAM之间的通信速度限制,而且二者之间的通信速度越来越跟不上高性能计算需求前进的脚步。

为了解决这个通信速度限制,很多威廉希尔官方网站 被开发了出来,比如现在同样很火的存算一体。不过从目前来看,这些威廉希尔官方网站 不可能在短时间内就解决处理器和内存之间通信限制。因此将DRAM与处理器通过封装威廉希尔官方网站 结合成为解决限制行之有效的手段。

在所有存储芯片中,HBM也被看作是最适用于AI训练、推理的存储芯片。通过将多个DRAM芯片堆叠并与处理器封装在一起,HBM实现了大容量高位宽的DDR组合。

HBM通过与处理器相同的中介层互联实现近存计算,显著减少了数据传输时间。封装威廉希尔官方网站 在其中发挥了决定性的作用,封装威廉希尔官方网站 直接影响了最后的带宽和功耗。

HBM已经经历了几代产品的更迭,目前各大存储厂商主要也是使用基于TSV的封装威廉希尔官方网站 进行芯片堆叠,基于TSV工艺的堆叠封装威廉希尔官方网站 显著提升了HBM带宽,并降低了功耗减小了封装尺寸。

TSV的出现让半导体裸片和晶圆可以实现高密度互联堆叠在一起,是先进封装的标志之一。TSV硅通孔威廉希尔官方网站 通过硅通道垂直穿过组成堆栈的不同芯片或不同层实现不同功能芯片集成,贯穿所有芯片层的通道可以进行信号、指令、电流的传输,吞吐量的增加打破了单一封装内低带宽的限制。

传统封装无法匹配HBM需求,基于TSV衍生出的封装威廉希尔官方网站 ,台积电的CoWoS是目前供不应求的最理想的封装方案。

不夸张地说,目前几乎所有的HBM系统都封装在CoWos上。CoWoS产能不足是行业内有目共睹的,直接造成了人工智能相关芯片的短缺。台积电也是一再上调CoWos产能,以满足市场需求。

三星发力3D封装,SAINT探索HBM新存储集成方案

作为行业头部HBM供应商,同时在先进封装领域布局积极的三星,在HBM升级竞赛里相当积极,意图赶超台积电HBM先进封装的决心也是很明显。

此前三星为了在单个封装内集成更多的Chiplet和HBM推出了I-Cube、H-Cube和X-Cube。I-Cube、H-Cube是2.5D封装,X-Cube是3D封装。

I-CUBE S将一块逻辑芯片与HBM裸片水平放置在一个硅中介层上,实现高算力、高带宽数据传输和低延迟;H-Cube将逻辑芯片与HBM裸片水平放置在一个硅中介层之外结合了ABF基底和HDI基底,在I-CUBE基础上实现更大的封装尺寸;X-Cube则是采用芯片垂直堆叠的全3D封装。

而在近期,三星又宣布将计划在明年推出先进的3D封装威廉希尔官方网站 ,使用SAINT威廉希尔官方网站 (Samsung Advanced Interconnection Technology,即三星先进互连威廉希尔官方网站 ),以更小的尺寸集成高性能芯片所需的内存和处理器。

SAINT威廉希尔官方网站 共分为三大类,一是用于垂直堆叠SRAMCPU的SAINT S,二是用于应用处理器堆叠的SAINT L,三则是应用于CPU、GPU等处理器和DRAM内存垂直封装的SAINT D。据相关报道,该威廉希尔官方网站 中SAINT S已经通过了验证测试,SAINT D和SAINT L的威廉希尔官方网站 验证将于明年完成。

HBM及其相关封装威廉希尔官方网站 作为高性能计算领域扮演的重要角色,三星意图通过SAINT威廉希尔官方网站 在HBM及封装领域占据主动。

SK海力士应用扇出封装寻找跳过TSV的降本之路

作为另一家HBM头部供应商,SK海力士同样是采用基于TSV的封装威廉希尔官方网站 来进行产品迭代,现阶段SK海力士无疑是HBM类产品的市场领导者,占据了最大的市场份额。

SK海力士在HBM3市场占据领先地位离不开他们开发的MR-MUF(批量回流模制底部填充)威廉希尔官方网站 。这项威廉希尔官方网站 确保了HBM 10万多个微凸块互连的优良质量。

此外,该封装威廉希尔官方网站 还增加了散热凸块的数量,同时由于其采用具有高导热性的模制底部填充材料,具有更加出色的散热性能。而SK海力士也一直在加强投入研发异构集成和扇出型RDL威廉希尔官方网站 等先进封装威廉希尔官方网站 。

虽然SK海力士的HBM产品均使用基于TSV的封装工艺,但相关产能的不足以及成本过高问题一直都存在。以TSV为核心的HBM封装工艺,在保证良率的前提下成本占比接近30%,比前后道工艺成本占比都要高,是占比最高的部分。

为了解决TSV产能低成本高的困扰,SK海力士除了持续研发主打的基于TSV的封装工艺之外,也在探索性价比更高的扇出封装,为下一代DRAM做准备。

SK海力士希望通过扇出封装这种方式,降低封装的成本增加I/O接口的数量,而且还能跳过TSV工艺。SK海力士计划明年推出该方案,并到2025年实现1微米以下或亚微米级水平的扇出型RDL威廉希尔官方网站 。

SK海力士还透露将把下一代后处理威廉希尔官方网站 “混合键合”应用于HBM 4产品,进一步缩小间距,同时在芯片堆叠时不使用焊接凸块,让封装在高度上更具优势。

小结

HBM涉及现在封装领域的最先进的内存封装威廉希尔官方网站 ,各大厂商在扩充原有威廉希尔官方网站 路线产能的基础上,都在不断探索新的路线。在人工智能快速推动HBM需求的同时,HBM也带动了封装威廉希尔官方网站 的不断创新。在算力需求催生存力风口的机遇下,HBM大厂间的竞争从先进封装就已经开始。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • HBM
    HBM
    +关注

    关注

    0

    文章

    379

    浏览量

    14746
  • 算力
    +关注

    关注

    1

    文章

    966

    浏览量

    14794
  • 先进封装
    +关注

    关注

    2

    文章

    400

    浏览量

    241
收藏 人收藏

    评论

    相关推荐

    基础篇:从零开始了解

    即计算能力(Computing Power),狭义上指对数字问题的运算能力,而广义上指对输入信息处理后实现结果输出的一种能力。虽然处理的内容不同,但处理过程的能力都可抽象为。比
    的头像 发表于 11-15 14:22 550次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基础篇:从零<b class='flag-5'>开始</b>了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    企业AI租赁是什么

    企业AI租赁是指企业通过互联网向专业的提供商租用所需的计算资源,以满足其AI应用的需求。以下是对企业AI
    的头像 发表于 11-14 09:30 508次阅读

    GPU开发平台是什么

    随着AI威廉希尔官方网站 的广泛应用,需求呈现出爆发式增长。AI租赁作为一种新兴的服务模式,正逐渐成为企业获取
    的头像 发表于 10-31 10:31 167次阅读

    AI网络物理层底座: 大芯片先进封装威廉希尔官方网站

    随着人工智能(AI)威廉希尔官方网站 的迅猛发展,我们正站在第四次工业革命的风暴中, 这场风暴也将席卷我们整个芯片行业,特别是先进封装领域。Chiplet是实现单个芯片提升的重要威廉希尔官方网站 ,也是AI网
    发表于 09-11 09:47 642次阅读
    AI网络物理层底座: 大<b class='flag-5'>算</b><b class='flag-5'>力</b>芯片<b class='flag-5'>先进</b><b class='flag-5'>封装</b>威廉希尔官方网站

    集成系统封装开始押宝!

    第二季度量产。这一新威廉希尔官方网站 概念的披露,预示着先进封装威廉希尔官方网站 领域的市场竞争格局可能迎来新的变革。 高集成
    的头像 发表于 09-04 12:18 414次阅读
    高<b class='flag-5'>算</b><b class='flag-5'>力</b>集成系统<b class='flag-5'>封装</b>,<b class='flag-5'>开始</b>押宝!

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    浪潮下,国产先进封装威廉希尔官方网站 取得了怎样的成绩?面临怎样的挑战?

    电子发烧友网报道(文/吴子鹏)随着摩尔定律速度放缓,近几年先进封装威廉希尔官方网站 成为大芯片发展的主要推动力。得益于人工智能应用的
    的头像 发表于 07-22 00:08 4153次阅读
    大<b class='flag-5'>算</b><b class='flag-5'>力</b>浪潮下,国产<b class='flag-5'>先进</b><b class='flag-5'>封装</b>威廉希尔官方网站
取得了怎样的成绩?面临怎样的挑战?

    摩尔线程张建中:以国产助力数智世界,满足大模型需求

    摩尔线程创始人兼CEO张建中在会上透露,为了满足国内对AI的迫切需求,他们正在积极寻求与国内顶尖科研机构的深度合作,共同推动更大规模的AI智集群项目。
    的头像 发表于 05-10 16:36 951次阅读

    产能之外,HBM先进封装竞争

    今明两年的CoWoS先进封装产能也基本被巨头承包了,订单能见度已经从2027年延长至2028年。   对于存储大厂而言,这无疑是难能可贵的市场机遇,为了抓住这个机遇,他们也在加紧产能扩张,但除了产能上的竞争外,其
    的头像 发表于 05-10 00:20 2676次阅读

    力系列基础篇——101:从零开始了解

    相信大家已经感受到,我们正处在一个人工智能时代。如果要问在人工智能时代最重要的是什么?那必须是:
    的头像 发表于 04-24 08:05 1002次阅读
    <b class='flag-5'>算</b>力系列基础篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:从零<b class='flag-5'>开始</b>了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    简史,是一段波澜壮阔的历史

    今天这篇文章,我将给大家详细介绍一下人类的演进过程。这是一段波澜壮阔的历史,值得我们驻足与回忆。Chrent人工时代人类对
    的头像 发表于 04-04 08:26 662次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>简史,是一段波澜壮阔的历史

    时代, 如何打破内存墙

    来源:Ambarella安霸 何小林 近年来,人工智能应用正经历一轮快速的发展与普及,而以ChatGPT等先进的大模型威廉希尔官方网站 在此过程中起到了关键作用。这些模型对计算能力的需求不断攀升,催生了AI芯片
    的头像 发表于 03-06 19:51 316次阅读
    大<b class='flag-5'>算</b><b class='flag-5'>力</b>时代, 如何打破内存墙

    智能规模超通用,大模型对智能提出高要求

    的缩写,即每秒所能够进行的浮点运算数目(每秒浮点运算量)。   可以分为通用、智能
    的头像 发表于 02-06 00:08 6317次阅读

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    卫星通信序幕拉开,AI浪潮澎湃

    AI浪潮催生要求,基础设施需求持续提升。AIGC带来的超大
    发表于 01-03 10:22 388次阅读
    卫星通信序幕拉开,AI<b class='flag-5'>算</b><b class='flag-5'>力</b>浪潮澎湃