AIGC时代和大模型对算力的影响

2023年10月，为推进全球半导体供应链发展，促进各生态位上高管的沟通与协作，中国国际半导体高管峰会 (ISES) 在上海举办。为其两天的盛会囊括了Chiplets, 异质集成、先进封装、基材、半导体工艺流程、功率半导体以及半导体产业可续发展等诸多议题的演讲。

作为Chiplet和互联领域的代表性企业。奇异摩尔产品及解决方案副总裁兼联合创始人祝俊东，受邀与现场行业领袖们分享了在当前的大背景下计算范式演变的思考与创新实践，演讲主题为《Interconnection define the computing, Key tech of Computing Paradigm Evolution》。

ISES 是一个领先的半导体行业协会，由全球半导体生态系统的成员组成，成员涵盖设备和材料制造商、OSAT、FAB、IDM、IC 设计企业、软件，直至高性能计算、人工智能、汽车电子、5G/6G等应用领域企业。ISES旨在通过对行业领袖和企业决策层的影响，推动微电子供应链的创新、商业与投资机会。ISES 峰会每年在美国、德国、意大利、台湾、中国和新加坡等地举办。

在主题演讲中，祝俊东探讨了AIGC时代和大模型对今天算力的影响。随着大型模型的发展，越来越多的任务需要超大规模计算集群来完成。随着系统的复杂性不断增强，行业对更高带宽、更低延迟的片内、片间、集群间互联需求愈发迫切。

片内方案：可通过chiplet设计及异构计算架构大幅提高不同功能芯粒间的互连带宽，同时降低其延迟与功耗，从而提供更好的互连性能，使单芯片计算能力得到有效扩展。典型案例即英伟达 Grace Hopper 超级芯片，在一个封装内，通过NVLink连接Grace CPU和Hopper GPU，实现了数倍于板级异构计算的性能提升。

片间视角：集群与集群间的互联需要支持无损数据传输的互联网络，以及相关的加速算法、协议，以实现更大规模、更高速度和更高效率的数据传输。

要实现芯片和异构计算，先进封装是一项非常重要的基础威廉希尔官方网站 。基于 Chiplet 的异构计算架构需要数百 GB 甚至 TB 的片间传输带宽，对先进封装提出了极高的要求。安靠封装测试研发总监李健民在演讲中表示，Chiplet和芯片异构集成已成为当今芯片产品的强劲趋势，可提供实现创新产品架构的新方法，同时能在行业的未来保持最佳的性能/功耗/面积/成本 (PPAC) 比率。李健民强调，这些方法需要先进 IC 封装能力提供支持，他还指出，OSAT 和晶圆厂正在积极响应以实现这种集成。未来，安靠将强调从 2D Chiplet 模块着手并按需使用 3D 执行增强处理以增强性能和差异化的重要性。

此外，半导体温度管理领域的领导企业，ERS electronic 的CEOLaurent Giai-Miniet先生也来到了现场，发表了题为“Pushing the Boundaries of Thermal Management to Address Challenges in Wafer Test and Advanced Packaging”的演讲，并特别在本次演讲中分享了公司在温度晶圆针测和先进封装领域最新的产品威廉希尔官方网站 。

得益于近些年先进封装的不断进步，先进封装的互联密度已得到了大幅提升，同时，随着对互连带宽要求的进一步提高，Chiplet 的封装形式也从原来的基板转向 2.5D，并逐步向 3D 演进，从而让AIGC背景下，数据中心等高性能计算的算力和互联扩展成为可能。

与此同时，计算任务的变化推动了计算形式的演变。随着 AIGC 和大型模型的发展，数据中心的核心任务已逐渐由以存储和科学计算转变为视频流和人工智能训练、推理。传统的分布式架构难以满足庞大的AI需求，进而转向超大规模分布式异构计算集群。

在今天，建设超大规模异构集群已成为各计算芯片巨头的主攻方向。在超大规模异构集群中，数据和计算分布在不同节点上，通过高效的异构计算架构，不同的任务可以有效地分配给不同的计算单元，从而实现更高的计算性能。

计算架构的变化不仅发生在数据中心，也发生在边缘端。随着大模型在边缘落地，高性能边缘设备也将转向域控制架构、中央平台架构。在以自动驾驶为例的中央平台架构中，每个域都需要一个中央处理单元，以集成如互联、娱乐、ADAS 等更多的功能和更高的算力。在未来，中央域计算平台可能需要集成数百甚至数千个功能单元，并提供数千 T 的计算能力，无疑Chiplet架构的芯片，以及在中央计算平台与每个域之间极为高效、低延迟、无损的数据互联威廉希尔官方网站 。

祝俊东表示，作为全球领先的高性能互联产品和解决方案公司，奇异摩尔在高性能芯片的片内、片间互联领域有显著的威廉希尔官方网站 优势，公司基于Kiwi-Link统一互联架构，提供全链路互联及网络加速芯粒（Chiplet）产品及解决方案，助力高性能计算客户更高效、更低成本搭建超大规模分布式智算平台。

而AIGC和大模型的广泛应用，也为奇异摩尔所聚焦的互联赛道创造了令人兴奋的机遇，以加速数据中心、自动驾驶、个人计算平台等高性能计算应用市场革命。对高性能计算而言，互联既是制约发展的瓶颈，也是方案与出路。

审核编辑：彭菁