0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

新一轮AI竞赛中,为什么HPC一定是赢家?

新思科技 来源:未知 2023-03-23 06:35 次阅读

本文转自《TechSugar》感谢《TechSugar》对新思科技的关注

当前,以ChatGPT为代表的生成式人工智能应用风头无两,正在全球科技巨头间掀起新一轮的威廉希尔官方网站 竞赛。在很多人看来,ChatGPT的上线或可被视作一次新产业革命的引爆点,而这个引爆点之所以能出现,则离不开背后的高性能计算与大数据基础设施。

ChatGPT基于Open AI公司的GPT-3系列语言大模型来实现,GPT(Generative Pre-trained Transformer)即生成式预训练转换模型,是一种基于互联网可用数据训练的文本生成深度学习模型。

为了实现和人类可比拟的语言交互和语言组织能力,GPT-3的参数达到1750亿个,相比之下,2018年推出的GPT-1,参数为1.17亿个,而2019年推出的GPT-2参数则达到15亿个,量变最终将引发质变,参数规模的飞速膨胀,对支撑GPT运行的硬件系统提出了越来越高的要求,对于类似GPT这样的大模型,没有高性能硬件支撑,根本无法去实现与部署,更不要说随着新数据的涌入来迭代了。

所以,在众厂商纷纷宣布加码大模型AI投入时,有人断言,新一轮AI竞赛鹿死谁手还很难说,但高性能计算(HPC)系统中的高算力芯片、高带宽互连芯片和存储芯片一定是赢家。

HPC及其核心

芯片发展趋势

那么,高性能计算要如何发展才能更好地支持新一波人工智能发展浪潮?而人工智能将如何影响到高性能计算本身呢?有如下几点,可供探讨。

第一,高性能计算与人工智能相得益彰。人工智能的每一次高速发展,都离不开背后硬件基础设施的支持,而高速发展的AI又对硬件基础设施提出了更高的要求,激励芯片或系统性能成倍上升。

在Open AI 2018年发布的报告中,对自2012至2018年人工智能训练对算力的需求超过30万倍,算力需求平均每3.5个月翻一番,这给芯片及硬件系统更新换代带来极大压力,因为按摩尔定律的性能升级速度,已经不能满足AI训练对芯片性能的需求增长速度了。

为了打破性能瓶颈,新思科技提出了SysMoore开发方法学,通过全系统优化,有效释放了性能提升潜力。

反过来,AI能力也在提升芯片开发效率,帮助开发者设计出性能更出色的芯片。例如,通过应用新思科技的DSO.ai工具,开发者将一款HPC处理器的运行频率提高了100Mz,而开发时间缩短了一半,整个团队的产出效率提升至原来的三倍。

bf7b3c4c-c901-11ed-bfe3-dac502259ad0.png

第二,HPC芯片性能提升方式从平面扩展转变为立体增长。多晶片系统(Multi-Die System)正在成为HPC芯片的主要发展潮流,从HPC的系统角度来看,采用先进封装威廉希尔官方网站 将不同芯片封装在一起的方式,比PCB互连能大幅提升系统性能,因而HPC芯片在实现上,2.5D封装与3D封装的设计将越来越多。

而由于成熟的接口IP可以直接以芯粒(Chiplet)方式与计算内核进行拼接,多晶片系统开发方式还可以有效保证良率,加快开发效率。

多晶片系统的实现,需要设计方法学的更新,以实现高带宽、低延迟、低功耗和无差错工作的片间接口,多晶片系统的片间接口威廉希尔官方网站 对于数据中心与边缘设备的快速、可靠的数据传输至关重要。

采用先进封装威廉希尔官方网站 将芯片进行立体堆叠,为芯片性能提升打开了无限可能,但也需要更强的EDA工具、设计方法学和IP,来处理多晶片系统中的异构集成、互连和封装问题。此外,随着数据中心互连威廉希尔官方网站 的发展,开发者还需要具备硅光学等领域的专业知识和威廉希尔官方网站 。

新思科技的3DIC Compiler是一个高效易用的多晶片系统设计实现平台,可以为各种不同工艺制造的芯粒拼接堆叠提供完整的开发环境。

例如,从多晶片系统项目启动时,开发者就需要用3DIC Compiler对多晶片系统进行功能划分,将整体设计分解为多个芯粒,接下来,可以用3DIC Compiler进行早期版图规划和基于封装的信号完整性分析,以实现更好的片间连接性能和更优的功耗表现。

bfcd9d2a-c901-11ed-bfe3-dac502259ad0.jpg

第三,边缘计算设备将不断进步迭代。人工智能的训练发生在数据中心,但推理或数据收集都离不开边缘设备。

在人工智能应用中,对边缘设备的延迟要求越来越高,希望能进一步减少边缘设备数据处理和传输延迟,这就要求优化边缘设备主芯片的数据传输速度和效率。而边缘设备数量众多,因而在芯片层面能够降低功耗的话,将对整个云加边缘体系的节能降耗贡献极大。

所以,边缘端芯片需要强大的仿真和验证工具、功耗和热分析功能、设计布局的智能实施,以及一系列关键功能和接口的认证IP模块,新思科技可以为开发者提供从边缘到云端可应用的基础IP、接口IP、安全IP和处理器IP,优化实现高性能、低延迟和低功耗,同时支持先进的工艺威廉希尔官方网站 。

第四,从信息安全、可靠性和运营成本等考虑,HPC芯片需要全生命周期管理。HPC系统规模巨大,运营成本高昂,可以处理PB乃至ZB级别的数据,可以实时运行大模型。这种级别的系统一旦出现故障,由于业务暂停造成的经济损失,数字会十分惊人。

所以,一个好的HPC系统,应该具备卓越的可靠性、可用性和服务能力,而要做到这一点,系统角度可以通过冗余设计来增加可靠性,但更重要的则是从芯片层级来减少故障率。

在芯片层级减少系统的故障率,就需要用到新思科技的硅生命周期管理(Silicon Lifecycle Management,SLM )的理念。

SLM通过内置IP来收集芯片运行中的各种参数,并将芯片运行数据传输至指定位置进行分析和跟踪,从而让系统可以实时监控各个核心芯片的运行状况,为系统建立起芯片健康状况跟踪图,从而更好地预测和预防故障的发生,最终实现故障率降低和最小化故障损失。

第五,可持续发展是HPC产业长期繁荣的基础。由于规模巨大,HPC系统能耗惊人,专家预测,到2030年,仅数据中心用电量将占到全球总用电量的3%至7%,不少区域甚至抵制建设数据中心,以免因其耗能巨大而导致当地环境恶化。所以,如何有效解决HPC/数据中心能耗和散热问题,已经成为其能否可持续发展的关键。

在新思科技为HPC/数据中心提供的完整解决方案中,处处体现了节能降耗的理念。例如,通过低功耗设计方法学和功耗优化过的IP核来实现HPC芯片的整体功耗优化,从而降低HPC系统能耗,有效降低系统功耗,而新思科技各种高效率开发、仿真和验证工具,大幅降低了研发一款芯片的总体用时和资源占用,则是从更广泛角度上为可持续发展做出的贡献。

总结

随着互联网与人工智能威廉希尔官方网站 的发展,HPC产业的重要性与日俱增,大数据与大数据模型的应用,都对HPC系统的性能与能耗提出了更高要求,只有从芯片层级出发来对HPC系统进行优化,才能真正让HPC系统性能不断升级,能效持续优化,走上真正的可持续发展之路。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 新思科技
    +关注

    关注

    5

    文章

    798

    浏览量

    50336

原文标题:新一轮AI竞赛中,为什么HPC一定是赢家?

文章出处:【微信号:Synopsys_CN,微信公众号:新思科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    荣耀迎来新一轮投资,中国电信、金资本等加入

    据最新报道,荣耀在其股权改革进程迎来了新一轮投资者的加入,包括中国电信、金资本旗下基金、基石资本旗下基金、特发基金,以及新成立的代理商投资平台金石星耀等。   荣耀方面表示,此次融资坚持公开透明的原则,旨在进
    的头像 发表于 10-31 13:44 582次阅读

    小马智行获得广汽集团2700万美元新一轮投资

    近日,自动驾驶解决方案提供商小马智行宣布获得广汽集团2700万美元的新一轮投资。
    的头像 发表于 10-12 16:01 286次阅读

    字节跳动开启新一轮股权回购

    字节跳动近日向员工发布了新一轮股权回购的邮件通知。此次回购,在职员工的税前回购价定为每股180.7美元,而离职员工的回购价则为153.6美元。
    的头像 发表于 10-11 15:46 336次阅读

    OpenAI新一轮融资66亿美元,巩固AI领先地位

    近日,美国人工智能领域的佼佼者OpenAI宣布,在最新一轮融资中成功筹集了高达66亿美元的资金。此次融资后,OpenAI的估值飙升至1570亿美元,再次彰显了其在全球AI领域的强劲实力。
    的头像 发表于 10-08 14:44 345次阅读

    Anthropic拟进行新一轮融资

    人工智能领域再掀波澜,初创公司Anthropic正紧锣密鼓地筹备新一轮融资,市场预计其估值将跃升至400亿美元大关。此次融资吸引了包括谷歌、亚马逊等科技巨头的青睐,彰显了Anthropic在AI赛道上的强劲竞争力和市场潜力。目前,融资谈判尚处于初级阶段,但已足够引发业界广
    的头像 发表于 09-24 15:19 341次阅读

    武汉敏声再获新一轮融资

    近日,武汉敏声新威廉希尔官方网站 有限公司(简称“武汉敏声”)宣布成功完成新一轮融资,此次融资由中国互联网投资基金、长江产业集团、骆驼基金等知名投资机构共同参与。这是自2019年成立以来,武汉敏声获得的第4融资,累计融资金额已接近10亿元,公司估值随之攀升至近30亿元的新高度。
    的头像 发表于 09-24 14:52 756次阅读

    喆塔科技完成新一轮战略融资

    喆塔科技近日宣布圆满完成新一轮战略融资,此融资由光谷金控、张科垚坤及合肥产投三大国有及产业资本巨头携手完成。此次融资不仅彰显了市场对喆塔科技的高度认可,更为其未来发展注入了强劲动力。
    的头像 发表于 09-06 17:37 587次阅读

    银河水滴科技完成新一轮股权融资

    近日,步态身份识别系统研发商银河水滴科技完成新一轮股权融资,融资额未披露,本轮投资方为苏高新金控。
    的头像 发表于 05-28 11:24 1243次阅读
    银河水滴科技完成<b class='flag-5'>新一轮</b>股权融资

    AI独角兽Cohere寻求新一轮融资,目标估值达50亿美元

    加拿大AI领军企业Cohere,作为OpenAI的有力竞争者,近日正在积极寻求新一轮的融资。据悉,该公司的目标是以高达50亿美元的估值筹集5亿美元的资金。这雄心勃勃的举措显示了Cohere在人工智能领域的深厚实力与坚定信心。
    的头像 发表于 03-26 11:25 613次阅读

    蚂蚁集团新一轮组织架构升级

    蚂蚁集团近日完成了新一轮的组织架构升级,旨在进步加速其改革进程并推动核心战略的实施。在这次重要的调整,韩歆毅被正式任命为蚂蚁集团总裁,他将肩负起全面负责数字支付、数字互联和数字金融业务的重任。
    的头像 发表于 03-22 13:58 1208次阅读

    声扬科技逆势完成新一轮融资,发力终端语音打造大模型的“耳朵”

    近日,深圳市声扬科技有限公司(以下简称“声扬科技”)完成由青岛某地方国资平台出资及部分老股东跟投的新一轮融资,为2023年以来低迷的AI语音级市场
    的头像 发表于 03-12 09:00 991次阅读
    声扬科技逆势完成<b class='flag-5'>新一轮</b>融资,发力终端语音打造大模型的“耳朵”

    人形机器人企业Figure AI在最新一轮融资中累计筹得约6.75亿美元

    据外媒报道,当地时间2月24日,致力于研发人形机器人的美国初创公司Figure AI在最新一轮融资中累计筹得约6.75亿美元。
    的头像 发表于 02-28 11:39 1181次阅读

    瀜矿科技完成最新一轮A融资 青桐资本担任财务顾问

    近日,瀜矿科技控股平台公司完成最新一轮A融资,由Amperex Technology Limited(ATL)独家领投,老股东上海源晗能源持续加注,青桐资本担任财务顾问。本
    的头像 发表于 02-21 10:25 702次阅读

    高端封装基板供应商芯爱科技完成新一轮融资

    芯爱科技,作为家高端封装基板供应商,近日宣布完成了新一轮融资,累计获得社会资本超过25亿元人民币。这一轮融资吸引了众多知名投资机构的参与,包括比亚迪、越秀产业基金、阳光融汇资本、高远资本等头部资本。
    的头像 发表于 01-18 15:53 900次阅读

    开年资本“热”,已有3家LED企业完成最新一轮投资

    开年以来,资本对LED产业的投资热情不减,近日已有3家LED企业完成最新一轮投资。
    的头像 发表于 01-11 13:50 988次阅读