0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GPU的巨大压力即将到来

半导体产业纵横 来源:半导体产业纵横 2023-07-20 11:41 次阅读

GPU涨的不仅是价格。

今年以来,直线上升的AIGC市场带热了GPU。TrendForce集邦咨询表示,2023年AI服务器出货量(包含搭载GPU、FPGAASIC等)出货量预估近120万台,年增率近38%,AI芯片出货量同步看涨,可望成长突破五成。

然而,供应短时间难以跟上需求的爆发。“一切都在等英伟达”,李平是某AI公司高管,他向记者透露,其公司在4月下单了服务器产品,但是因为服务器公司的GPU尚未到货,至今没有准确交货期,“现在再签服务器合同都是没有违约条款,不签货期的,只能选择等或者直接取消订单”。

对 GPU 硬件或更好的加速器的需求从未如此之大,如果这种趋势持续下去,当前的高需求可能会延续到不久的将来。就HPC领域而言,这一趋势表明 GPU 未来将会变得昂贵且难以找到,除非是购买的数量足以直接向供应商购买。

GPU非常适合加速矩阵运算,通常这也是许多 HPC 应用程序的核心。它们提供 SIMD(单指令多数据)处理单元,可以加速复杂的并行数组操作。正如人们经常指出的那样,HPCGPU 市场在一定程度上要归功于规模大得多(约 7 倍)的游戏市场,它帮助支付了硬件成本,让游戏玩家能够飞越星系,同时允许科学家interwetten与威廉的赔率体系 星系。

加密货币市场改变了这种低端动态。就加密货币而言,游戏 GPU 非常擅长快速查找唯一数字并产生热量。市场需求相当高,但由于加密市场的不断发展,需求似乎正在下降。

在高端市场,情况就完全不同了。根据雅虎财经的一篇文章,Reports Insights 的一份报告预测:“受图形处理器 (GPU) 科学模拟、数据分析和人工智能需求不断增长的推动,全球图形处理器 (GPU) 市场预计在 2022 年至2030 年期间复合年增长率为 33.5%。”

然而,对于 GPU 市场供应商来说,这是个好消息,对于最终用户来说,LLM(大型语言模型,如 ChatGPT)的增长创造了对 GPU 的新需求,而严格意义上来说,GPU 并不属于传统 HPC 市场的一部分。

以 Inflection AI 为例,该公司正在开发一种名为“Pi”的“个人人工智能”聊天机器人。为了实现这一目标,该公司建造了一台配备 22,000 个英伟达 H100 GPU 的超级计算机。为了提供一些背景信息,Frontier 是 6 月 23 日 TOP500 列表中排名第一的系统,拥有37,632 个 GPU。

Inflection AI 的情况并非独一无二。SemiAnalysis报告的另外两个数据点也支持同样的趋势。

“即使 OpenAI 也无法获得足够的 GPU,这严重阻碍了其近期路线图。由于 GPU 短缺,OpenAI 无法部署其多模态模型。“

正在寻找 FLOPS?

幸运的是,GPU 对于 HPC 来说并不是必需的。然而,最新的 TOP500 系统统计表明,37% 的机器使用 GPU。这个数字正在增加,并且随着系统进入 exaFLOPS 领域,加速器的使用将继续。

如前所述,GPU 不是必需的,但对于许多 HPC 应用程序来说通常是可取的。由于生成式 AI 行业爆炸式增长的巨大需求,许多 HPC 现场采购和/或云场景的担忧是GPU 的全面可用性(短缺)。“任何 GPU”(英伟达、AMD英特尔)的高市场需求可能会促使 HPC 从业者考虑仅使用 CPU 的解决方案来帮助加速其代码(例如,众核、AVX-512、HBM、3D V-Cache 等) 。

对“GPU 周期”的搜索也可能会带来一些新颖的方法。回想一下,HPC 中的一些原始 GPU 应用程序始于标准 GPU 卡和一种名为“Brook ”的新语言,该语言是 CUDA 的前身,并在第一段中提到的一些早期 GPU 卡上运行。一开始,这种方法似乎有点“尴尬”,但速度的提高是不容忽视的,结果重塑了 HPC 领域。

最近,一个有趣的消息是,最新版本的 AMD ROCm GPU 库(V5.6) 提供了对移动和桌面级 iGPU(集成 GPU)的支持。在LinkedIn 上的一篇简短帖子中,HPC 专家 JamesCuff 能够使用 Ryzen 9 6900HX 桌面处理器在CPU 和 CPU/iGPU 上运行 TensorFlow 基准测试。同样的基准测试在 CPU 上运行需要 13 秒,在CPU/iGPU 组合上运行需要 3 秒。当然,还需要更多的测试,但正如对 FLOPS 的搜索将目光转向了早期基于 GPU 的显卡一样,寻找内部 GPU 可能会为 HPC 组合添加一些未使用和可用的 FLOPS。GPU 的巨大压力已经到来。





审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5464

    浏览量

    134054
  • 机器人
    +关注

    关注

    211

    文章

    28359

    浏览量

    206886
  • HPC
    HPC
    +关注

    关注

    0

    文章

    313

    浏览量

    23745
  • 图形处理器
    +关注

    关注

    0

    文章

    198

    浏览量

    25539
  • ChatGPT
    +关注

    关注

    29

    文章

    1558

    浏览量

    7585

原文标题:GPU 的巨大压力即将到来

文章出处:【微信号:ICViews,微信公众号:半导体产业纵横】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    人类智慧水平AI即将到来,AI芯片已提前布局

    拥有人类智慧水平的AI即将出现,但不必恐惧,Altman认为这种AI对世界的影响远没有人们想象得那么严重。   人类水平AI即将到来   从过去的许多影视作品中其实不难发现,人们对于AI的心态是矛盾的。一方面认识到AI超强的实力,能够让我们的生活过的更加美好;另
    的头像 发表于 01-22 06:44 2588次阅读

    以客户为核心,铸就CES Asia 2025卓越品质

    在会展行业竞争日益激烈的当下,赛逸会展以其独树一帜的理念和行动,为即将到来的 CES Asia 2025 绘制了一幅与众不同的蓝图。
    的头像 发表于 11-17 14:48 157次阅读

    孙正义:人工超级智能即将到来,将需投入数千亿美元

     10月31日,路透社发布消息称,软银集团首席执行官孙正义于本周二(29日)再次强调了他对人工超级智能(ASI)即将到来的坚定信念,并指出实现这一目标需要数千亿美元的巨额投资。
    的头像 发表于 10-31 15:54 328次阅读

    GPU服务器用途

    GPU服务器凭借其强大的并行计算能力和高效的数据处理能力,在人工智能、科学计算、金融分析、医疗健康、媒体娱乐等多个领域展现出巨大的应用潜力和价值。
    的头像 发表于 10-18 10:17 122次阅读

    驱动电阻威廉希尔官方网站 -EAK零电感水冷电阻器-再生制动电阻

    电动汽车热潮即将到来。然而,该机芯背后的威廉希尔官方网站 必须不断改进,以完善其在商用车中的应用。
    的头像 发表于 09-27 18:15 216次阅读
    驱动电阻威廉希尔官方网站
-EAK零电感水冷电阻器-再生制动电阻

    工业5.0,人机协作的时代即将到来

    2011年,德国提出“工业4.0”,其后十年左右的时间,物联网、传感器、无线通信、大数据、人工智能等威廉希尔官方网站 得到飞速发展及广泛落地,“智能制造”的概念大火。2021年,欧盟委员会提出“工业5.0”,其三大核心是“以人为中心”、“可持续性”和“富有弹性”。工业5.0在追求更高效率之外,更强调以人为中心以及人与机器的有机协作。
    的头像 发表于 09-06 09:25 1072次阅读

    暴涨预警!NVIDIA GPU供应大跳水

    gpu
    jf_02331860
    发布于 :2024年07月26日 09:41:42

    类比半导体即将亮相2024慕尼黑上海电子展

    随着汽车电子化、智能化的飞速发展,汽车芯片领域正迎来前所未有的机遇与挑战。作为国内汽车芯片领域的领军企业,类比半导体凭借其卓越的威廉希尔官方网站 实力和创新精神,始终走在行业前沿。在即将到来的2024慕尼黑上海电子展上,类比半导体将携三款全新的汽车智能驱动芯片震撼登场,为业界带来一场威廉希尔官方网站 盛宴。
    的头像 发表于 06-28 15:19 823次阅读

    极海半导体即将亮相慕尼黑上海电子展

    即将到来的慕尼黑上海电子展上,极海半导体将携其全球首款基于Arm Cortex-M52处理器Helium威廉希尔官方网站 的双核架构G32R5系列实时控制MCU亮相,展现公司在微控制器领域的卓越创新实力。这款革命性的产品不仅代表了极海半导体在微控制器威廉希尔官方网站 领域的最新突破,也预示着实时控制领域
    的头像 发表于 06-28 11:13 708次阅读

    NVIDIA CEO黄仁勋在 SIGGRAPH 2024 主题演讲中或将首次亮相消费级GPU Blackwell

    ABSTRACT摘要NVIDIA首席执行官黄仁勋将在2024年Siggraph上发表主题演讲,主题为“面向新计算革命的图形”——消费级Blackwell即将到来?JAEALOT2024年6月20日
    的头像 发表于 06-21 08:26 467次阅读
    NVIDIA CEO黄仁勋在 SIGGRAPH 2024 主题演讲中或将首次亮相消费级<b class='flag-5'>GPU</b> Blackwell

    苹果与OpenAI或达成合作,iOS有望引入ChatGPT

    苹果iPhone开始在AI方面进行发力,在即将到来的WWDC 2024全球开发者大会上,苹果预计将展示其在人工智能领域的最新进展。
    的头像 发表于 05-13 11:37 662次阅读

    苹果将推出iOS18,强调AI整合与隐私保护

    古尔曼预测,在即将到来的WWDC 2024现场,Apple将大篇幅地讨论如何看待AI威廉希尔官方网站 ,包括探讨融入该技及Apple如何与竞品形成鲜明的差异化。
    的头像 发表于 03-25 10:34 435次阅读

    KLA即将亮相半导体行业盛会SEMICON China 2024

    即将到来的一周,一年一度的半导体行业盛会SEMICON China 2024 将于上海再次揭幕。
    的头像 发表于 03-13 09:59 780次阅读

    苹果公司为应对中国市场销量下滑,罕见推出iPhone折扣

    据苹果中国官方网站发布信息,1月18日至21日该公司针对部分iPhone进行了5%的降价,其主要目的是为了迎接即将到来的农历新年大促。值得注意的是,苹果最新的iPhone 15系列在华销售表现不佳,其面临着华为和小米等本地品牌带来的巨大竞争
    的头像 发表于 01-16 09:46 1868次阅读

    NVIDIA发布中国定制版RTX 4090D

    刚刚,NVIDIA官网发布了针对中国市场定制的RTX 4090D——D就是传说中的Dragon,对应即将到来的中国龙年。
    的头像 发表于 12-29 10:42 1065次阅读
    NVIDIA发布中国定制版RTX 4090D