0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达为什么要下场定制ASIC芯片?英伟达能称霸吗?

半导体产业纵横 来源:半导体产业纵横 2024-02-25 16:33 次阅读

最近,有消息传出英伟达正在建立一个新的业务部门,这个部门专注为云计算公司和其他公司设计定制芯片ASIC)。

这个新的部门将由半导体资深人士Dina McKinney领导。McKinney曾担任负责 AMD CPU 设计和Marvell基础设施处理器的副总裁,他将负责监督为云计算、5G 电信、游戏、汽车等领域构建定制芯片的团队。

那么,英伟达为什么要下场定制芯片(ASIC芯片),英伟达下场后能够在ASIC市场中称王称霸吗?

01 为什么英伟达选择ASIC?

英伟达选择ASIC的原因,其实从其新部门面向客户中可以窥见一二。新部门面向的主要是云计算公司,这和英伟达目前在主要的北美CSP(云计算供应商)企业重叠,包括Google Cloud、AWS、Microsoft Azure和Meta等企业。

这些企业都已经开始进行自家芯片的开发,例如Google的TPU和微软的AI加速器Maia及专为Azure设计的CPU “Cobalt”。

因此英伟达进军ASIC的原因有二:第一,占领新的市场。第二,保护自己免受替代。

先来看占领新的市场。数据中心定制芯片的蛋糕并不小,据研究公司650 Group估计,数据中心定制芯片市场今年将增长至100亿美元,到2025年将翻一番。

Needham分析师Charles Shi表示,2023年更广泛的定制芯片市场价值约为300亿美元,约占全球芯片年销售额的5%。

数据中心的定制芯片的市场中有两大巨头:博通和Marvell。在高端ASIC市场,博通以35%的市占率,稳坐龙头宝座,Marvel以12%的市占率居次。博通和Marvell其实都认为随着数据中心处理器变的多样,会让定制芯片的模式重新焕发生机。

原因在于,AI时代中,ASIC芯片也能撑起一片天。

这就谈回了一个老问题:ASIC、GPU,谁是最合适的AI芯片?其实这两类芯片有各自的特点,但在满足算力需求上是相互竞争的。简单来说,GPU有先发优势,威廉希尔官方网站 发展时间长,使用成本较低,但是功耗高。ASIC面向特定用户需求设计的定制芯片,在吞吐量、功耗、算力水平等方面都有优势。

在20世纪90年代时,很多大型企业都渴望设计和提供针对特定应用的定制ASIC设备,同时提供更好的性能。Sony、Toshiba和IBM最初设计的用于Sony Playstation 3的Cell Processor就是一个例子。不过,由于ASIC的成本高,随着为特定产品设计ASIC变得越来越难以合理规模,ASIC的岁月似乎过去。

ASIC和GPU的分歧就在这:成本。

因为从性能来看,针对特定场景或应用所设计的ASIC芯片,会比英伟达所卖的通用GPU更有优势。以前一直使用GPU,也带火了英伟达等厂商的业绩和股价,但后来大家发现,随着机器学习、边缘计算发展,算法更加成熟和稳定,自己完全有足够的计算需求去分摊ASIC的成本。

尤其ChatGPT爆火以后,英伟达GPU产品掉队,很多企业都是靠着服务器CPU+ASIC的形式,来满足用户对于AI训练和推理的算力需求。

这就展示出ASIC在AI时代的作用。Marvell的计算与定制集团威廉希尔官方网站 副总裁Mark Kuemerle观察到:“关于这些数据中心客户的有趣事实是,如果他们的系统中出现轻微的瓶颈点,问题会被放大1000倍甚至更多(因为它们部署在超大规模中)。”这样的瓶颈点可能导致NIC卡住。现成的机器学习设备可能无法匹配工作负载或满足灵活性或可编程性的需求。

Kuemerle说:“这些超大规模数据中心真的必须将一切精确调整到他们的工作负载。那么,他们投资建设定制芯片绝对是值得的。”

ASIC早已成为GPU面临的强大竞争者。

虽说各大厂商购买英伟达GPU,花钱如流水,既然都是流水,为什么不定制更适合自家应用场景的芯片呢?要定制就要花钱,英伟达同样想把大厂定制芯片的钱,纳入自己的钱包。

再来看“免受替代”是怎么回事。目前,谷歌、亚马逊特斯拉和Meta都推出了ASIC芯片。

谷歌2015年发布首款ASIC芯片TPU v1,去年已经迭代到了v5。根据官方提供的数据,每个 TPU v5p pod 在三维环形拓扑结构中,通过最高带宽的芯片间互联(ICI),以 4,800 Gbps/chip 的速度将 8,960 个芯片组合在一起,与 TPU v4 相比,TPU v5p 的 FLOPS 和高带宽内存(HBM)分别提高了 2 倍和 3 倍。

谷歌使用TPU v5p垒起一道抵御英伟达GPU的高墙。

对于谷歌来说,要钱有钱,要威廉希尔官方网站 有威廉希尔官方网站 ,要应用场景有应用场景,可以说是各大科技巨头中在自研AI芯片这条路上走得最远的,其他厂商目前还在源源不断地给英伟达账户打钱,但谷歌却早已做好了两手准备。

微软则也是打响了“逃离英伟达”的信号枪。最新的消息,微软正在开发一款新的网卡,可以提高其Maia AI 服务器芯片的性能,并有可能减少该公司对芯片设计商Nvidia的依赖。

有知情人士表示,微软首席执行官萨蒂亚·纳德拉(Satya Nadella ) 已任命网络设备开发商瞻博网络 (Juniper Networks) 联合创始人普拉迪普·辛杜 (Pradeep Sindhu) 来领导网卡工作。

看来出于成本和自主率考虑,大厂还是更愿意使用自家的ASIC。买英伟达的GPU不但价格高昂,并且受制于人。不过,使用自家芯片多一些,那就用英伟达GPU少一些。

02 英伟达能称霸吗?

谷歌推出自家ASIC的背后,与博通有很大关系。去年说到最红火的企业是英伟达,而背后还有一个卖铲人也在闷声发财——博通。目前博通的市值已经达到了5741.98亿美元,已经超过了台积电的市值。

其实从收入来看,博通是全球第二大人工智能芯片公司,仅次于英伟达。博通加速器的销售额往往高达数十亿美元。

a18afb62-d2cb-11ee-a297-92fbcf53809c.png

谷歌与博通合作,负责谷歌TPU的物理设计,本质上是基于谷歌的设计图纸开发芯片。此外,博通还负责监督台积电的芯片代工业务。自谷歌和博通开始合作以来,谷歌每两年左右发布新一代TPU。知情人士称,谷歌和博通把每一代TPU的性价比提高了至少50%。

博通与各大巨头公司合作定制芯片。不但参与了谷歌每一代TPU处理器的设计,还与Meta、苹果等公司达成合作,共同设计生产芯片。

研究机构SemiAnalysis创始人表示,博通定制芯片业务规模达100亿美元,美满电子规模达20亿美元,英伟达的参与确实是一个威胁。

英伟达能否称霸ASIC市场关键也是看两点能力:设计和议价能力。

先来看设计能力。作为定制芯片,芯片设计的好坏肯定直接会影响到CSP大厂数据中心的运行能力,以及成本高低。对于大厂来说,只要能够提供强大的性能,即使芯片的价格偏高,也会愿意买单。

我们先来看看一台AI服务器究竟需要哪些芯片?如果拆开一台AI服务器内部,以HGX H100 8-GPU为例,8 块 H100 GPU在全新的 FP8 精度下 AI 性能比上一代高 6 倍,可提供 900GB/s 的带宽,该服务器内部包含NVLink、PCIe和QPI等主板总线。GPU之间的互联通过NVSwitch 芯片来实现,CPU与GPU之间的互联则通过PCIe 5.0总线实现。

英伟达自家的高速传输NV Link、开发者软件CUDA和Omniverse等软件套件,这些带了极大优势。

但是PCle Switch也很重要,而这个领域是博通的天下。全球PCle Switch三大供应商,博通、微芯、祥硕科技三家,共占有全球约58%的份额。博通作为PCI Express交换领域的领导者,出货量超过10 亿个。

前文我们提到博通参与了很多公司的定制芯片,为什么各大公司都看中博通呢?不仅仅是芯片设计的能力,博通有自己的“护城河”芯片间的通信

博通是SerDes(串行器/解串器)的通信威廉希尔官方网站 无可争议的垄断巨头。SerDes接口通过在传输之前将低速并行数据转换为高速串行数据,然后在接收端转换回并行数据,目的在于允许数据从一个TPU高速移动到另一个TPU,提升信号传输效率。在全球50GB/S的SerDes市场中,博通占据了76%的市场份额。

这么来看,英伟达、博通在芯片设计方面,都有自己的“护城河”。

从芯片议价能力来说,英伟达在晶圆的采购量上要比博通、迈威尔大得多。在这样的状况下,议价能力也相对较高。沿用此逻辑来看,即使CSP厂拥有强大的IC设计团队,也不见得可取得最佳价格。

如果CSP能与台积电签订具价格竞争力的长约,有机会在价格上获得优势,打破英伟达的垄断局面。

03 结语

总的来说,由于仍有许多存在于云端大厂外的语言模型,因此通用型GPU仍有生存空间。

目前英伟达是否会成立ASIC部门还未确认。一名IC设计代工管理层透露,英伟达一直都有在看ASIC市场,曾经找上门希望能外包部分ASIC方案。换句话说,当时的英伟达即使正生产通用型芯片,仍一面通过外包的方式,吃下ASIC市场。

如今,ASIC的市场需求日益壮大,作为AI霸主英伟达自然不会视而不见,加上还拥有如高速传输NV Link、开发者软件CUDA等威廉希尔官方网站 优势。目前ASIC竞争对手如博通(Broadcom)、Marvell亦多有布局,博通执行长更在传出加入Meta董事会,英伟达的新策略是否冲击市场,值得持续关注。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4729

    浏览量

    128902
  • ASIC芯片
    +关注

    关注

    2

    文章

    91

    浏览量

    23762
  • 英伟达
    +关注

    关注

    22

    文章

    3771

    浏览量

    90997
  • HBM
    HBM
    +关注

    关注

    0

    文章

    379

    浏览量

    14746
  • ChatGPT
    +关注

    关注

    29

    文章

    1560

    浏览量

    7604

原文标题:定制芯片市场,被巨头瞄准了

文章出处:【微信号:ICViews,微信公众号:半导体产业纵横】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟超越苹果成为市值最高 英伟取代英特尔加入道指

    在AI浪潮下英伟被各路资本竞相追逐,2024年英伟公司的股价累计上涨高达180%。在11月4日,英伟
    的头像 发表于 11-05 15:22 389次阅读

    英伟市值飙升,逼近苹果

    近日,随着人工智能威廉希尔官方网站 的持续繁荣,英伟公司作为AI芯片生产的领军者,其市值实现了惊人的飞跃。截至美国当地时间21日,英伟的市值再创历史新
    的头像 发表于 10-23 09:31 294次阅读

    英伟Blackwell架构揭秘:下一个AI计算里程碑?# 英伟# 英伟Blackwell

    英伟行业资讯
    jf_02331860
    发布于 :2024年08月26日 10:58:09

    AI芯片巨头英伟涨超4% 英伟市值暴增7500亿

    谁是美股最靓的仔?在人工智能浪潮之下AI芯片巨头英伟肯定有一席之地,特别是现在全球资本市场动荡之际,业界分析师多认为英伟是最佳“反弹股”
    的头像 发表于 08-13 15:33 1092次阅读

    科技看点:摩根大通详解“英伟芯片问题”马斯克560亿薪酬方案引争议

    设计和系统级别的问题;主要应该是主板过热和高电压。产量的挑战依然是英伟头疼的问题;这也是英伟被爆延迟出货B200
    的头像 发表于 08-05 16:18 648次阅读

    英伟TITAN AI显卡曝光,性能狂超RTX 409063%!# 英伟# 显卡

    显卡英伟
    jf_02331860
    发布于 :2024年07月24日 17:18:28

    英伟带领芯片股飙升 英伟大涨4.76%

    英伟不愧是总龙头,大涨4.76%。英伟带领芯片股飙升;甚至可以说是带动了美国股市上涨,在当地时间22日,科技股反弹,带动整体行情走高。美
    的头像 发表于 07-23 16:26 329次阅读

    进一步解读英伟 Blackwell 架构、NVlink及GB200 超级芯片

    2024年3月19日,[英伟]CEO[黄仁勋]在GTC大会上公布了新一代AI芯片架构BLACKWELL,并推出基于该架构的超级芯片GB200,将助推数据处理、工程模拟、电子设计自动化
    发表于 05-13 17:16

    Meta将率先使用英伟最新人工智能芯片

    近日,Meta向外媒透露,他们预计将在今年晚些时候收到英伟最新旗舰人工智能芯片的首批出货,这也标志着英伟正式开启了B200
    的头像 发表于 03-22 10:16 557次阅读

    英伟为什么越涨越便宜?英伟的市盈率一直在下降?

    英伟为什么越涨越便宜?英伟的市盈率一直在下降? 在2023年英伟的股价涨了两倍多;龙年开年
    的头像 发表于 03-12 18:02 1786次阅读

    英伟是哪个国家的品牌?

    英伟(NVIDIA)总部位于美国加利福尼亚州的圣荷西市。因此,可以说英伟是一个美国的品牌。
    的头像 发表于 03-01 16:36 1.6w次阅读

    英伟市值1.96万亿美元

    英伟市值1.96万亿美元 英伟股价一天之内大涨16%;英伟股价涨到785.38美元,市值1
    的头像 发表于 02-24 15:22 931次阅读

    英伟进军数据中心芯片定制业务

    随着科技的飞速发展,数据中心已成为现代社会的核心基础设施。而在这个领域,芯片定制业务正逐渐崭露头角。近日,全球领先的人工智能芯片设计商和供应商英伟
    的头像 发表于 02-21 14:05 604次阅读

    英伟涉足定制芯片,聚焦云计算与AI市场

     作为全球高端AI芯片市场80%份额的霸主,英伟自2023以来股价上涨超过两倍,2024年市值高达1.73万亿美元。知名公司如微软、OpenAI、Meta纷纷采购英伟
    的头像 发表于 02-18 11:08 684次阅读