0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

数据中心短缺:人工智能未来的致命阻碍?

innswaiter 来源:van 作者:van 2023-10-20 10:32 次阅读

影响人工智能未来的4个数据中心存储挑战

● 建设新数据中心的成本

● 建设新数据中心需要时间

● 现有数据中心空间不足

● 功率限制

训练人工智能模型会产生巨大的资源消耗,需要大量的资本、时间、空间和电力来部署。最终,人工智能的进步可能归结为解决数据中心短缺的问题。

为什么数据中心对人工智能很重要

数据中心在我们的日常生活中发挥着至关重要的作用,但它们常常被视为理所当然或完全被忽视。每当我们浏览社交媒体、发送消息、在淘宝上订购真空吸尘器或通过银行汇款时,都需要依靠数据中心来处理每一项数字操作。它们是我们IT基础设施的基石。

但随着人工智能需求的爆炸式的激增,数据中心的容量正在减少,需求明显超过供应。虽然关于人工智能的讨论主要集中在芯片和ChatGPT上,以及人工智能产品将如何增加数十亿美元的收入,但我们应该关注的是回答这样一个问题,当对人工智能的需求超过我们现有基础设施所能支持的水平时,会发生什么?

答案似乎很简单,通过建设更多能力来克服能力不足。然而,在实践中,这变得更加困难。

数据中心短缺的4大原因

随着人工智能的发展,对计算能力的需求呈爆炸式增长,这需要密集、复杂的计算能力来训练。

数据中心行业已经面临满足现有企业数字化转型和公共云使用需求的压力。由于部署新构建的成本和时间都很高,因此数据中心通常是根据预测的需求即时交付来构建的。除了供应已经紧张之外,人工智能的指数级采用还推动了前所未有的需求。

生成式人工智能需要的能力是传统工作负载的五倍。据说ChatGPT-4的智力明显更好,需要更多的力量来训练。人工智能的发展竞赛归结为四个关键的供应限制:资金、时间、空间和权力。

1、资本

数据中心的建设成本高昂。一座25万平方英尺的中型数据中心建筑,要花费近5亿美元才能完全建成。

预计对人工智能的需求在数百兆瓦到千兆瓦之间,全部价格将达到数百亿美元。这是一大笔资金。当利率高企,资金难以筹集时,数据中心的价格就会上涨,这使得筹集必要的资金和满足需求变得更具挑战性。筹集所需资金也需要更长的时间,这延长了建设时间,进一步拖慢了一切。

最近,许多传统数据中心提供商因重组或破产而分心或陷入停滞,这进一步挑战了容量的及时交付。数据中心运营商仍然可以利用这些资金来为新容量提供资金,只是不会像零利率时代那么容易。赢家将是那些拥有有效部署资本和有效运营记录的人。

2.时间

建设一个数据中心需要24到36个月的时间。当然,提供商可以同时进行多个项目,但大多数项目仍需要数月至数年才能完成。在当前需求猛增之前,许多项目都是基于更为温和的需求预测而建造的。

最重要的是,该行业仍在努力应对供应链挑战,以提供为现代数据中心供电和冷却所需的机械电气和冷却系统。这些时间表已从两年前的12至24周缩短至52至80周。

新容量上线需要时间,而且即使上线也可能不够。然而,拥有数据中心下方的房地产并追求多设施园区战略的运营商将最有能力通过控制土地使用和缩短上市时间来快速扩大规模。

3.空间

整个行业剩余的可用空间所剩无几,特别是在拥有任何额外产能的优先购买权(ROFR)的客户看到需求增长快于供应的情况下,他们现在正在要求这些选择。

目前,GPU驱动的高性能计算(HPC)集群正在被许多企业采用,以训练人工智能应用,但它们并不是数据中心空间需求的唯一驱动因素。超大规模公共云和传统企业威廉希尔官方网站 部署的自然增长也将继续强劲,这将在未来12到18个月内给供应带来更大的压力。如果我们继续沿着这条道路前进,没有任何出人意料的威廉希尔官方网站 创新。

应对这一挑战的解决方案是数据中心提供商设计新设施,以适应从传统的高架地板、风冷企业应用到板式地板和水冷超大规模云或HPC工作负载的工作负载。这确保了无论上线的容量都可以快速适应市场最关键的瓶颈。

4.能源

一切都与电力有关。这些用于人工智能的高性能计算集群中使用的GPU使用的功率是传统工作负载的五倍。

电力已经供不应求,因为我们已经看到主要的数据中心市场宣布限制提供已经承诺的扩展电力。预计这一趋势将持续下去,需求的增加会给电网带来更大的压力,而向可再生能源的过渡需要时间的调整和完善,将产生更多的瓶颈。

智能数据中心提供商通过提高效率,将多设施园区选址在发电源附近,甚至部署自己的分站,走在了前面。

数据中心短缺持续存在会发生什么?

在研究了这四个领域之后,仍然存在一个问题:“如果我们无法克服这些限制,会发生什么?”其影响既深远又容易被忽视。

首先,它可能会阻碍人工智能应用开发人员部署GPU驱动的HPC集群的速度,这些集群需要训练底层大型语言模型(llm),和/或最终的推理阶段,在那里我们看到对基于这些llm构建应用的访问需求。

它还可能会抑制数据中心容量满足云提供商和正在增加现有工作负载企业的需求的能力。如今每个人都已经依赖这些来为SaaS应用、社交媒体、视频流、游戏、电子商务以及现代互联世界的便利提供动力,更不用说未来由人工智能驱动的应用了。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4729

    浏览量

    128897
  • 数据中心
    +关注

    关注

    16

    文章

    4764

    浏览量

    72096
  • 人工智能
    +关注

    关注

    1791

    文章

    47206

    浏览量

    238274
收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    应用场景。例如,在智能家居领域,嵌入式系统可以控制各种智能设备,如智能灯泡、智能空调等,而人工智能则可以实现对这些设备的
    发表于 11-14 16:39

    人工智能对数据中心的挑战

    在加密货币和人工智能/机器学习(AI/ML)等新兴应用的驱动下,数据中心的能耗巨大,并将快速增长以满足用户需求。根据国际能源署(IEA)的最新报告,2022 年数据中心的耗电量将达到 460 TWh
    的头像 发表于 11-13 16:05 364次阅读
    <b class='flag-5'>人工智能对数据中心</b>的挑战

    简述数据中心网络架构的演变

    随着全球对人工智能(AI)的需求不断增长,数据中心作为AI计算的重要基础设施,其网络架构与连接威廉希尔官方网站 的发展变得尤为关键。
    的头像 发表于 10-22 16:23 286次阅读

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    探讨了人工智能如何通过威廉希尔官方网站 创新推动能源科学的进步,为未来的可持续发展提供了强大的支持。 首先,书中通过深入浅出的语言,介绍了人工智能在能源领域的基本概念和威廉希尔官方网站 原理。这使得我对人工智能
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    阅读这一章后,我深感人工智能与生命科学的结合正引领着一场前所未有的科学革命,以下是我个人的读后感: 1. 威廉希尔官方网站 革新与生命科学进步 这一章详细阐述了人工智能如何通过其强大的数据处理和分析能力,加速生命科学
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    人工智能:科学研究的加速器 第一章清晰地阐述了人工智能作为科学研究工具的强大功能。通过机器学习、深度学习等先进威廉希尔官方网站 ,AI能够处理和分析海量数据,发现传统方法难以捕捉的模式和规律。这不仅极大地提高了
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    RISC-V和Arm内核及其定制的机器学习和浮点运算单元,用于处理复杂的人工智能图像处理任务。 四、未来发展趋势 随着人工智能威廉希尔官方网站 的不断发展和普及,RISC-V在人工智能图像处理领域的
    发表于 09-28 11:00

    Molex连接器助力构建未来数据中心 充分发挥人工智能AI的力量

    随着高性能计算,在人工智能(AI)和机器学习(ML)领域中不断演进,各种应用对复杂计算能力、海量存储容量和无缝连接提出了前所未有的需求。电子组件之间实现更快速、更高效的通信,能够促使专门构建的生成式
    的头像 发表于 08-29 11:57 1762次阅读
    Molex连接器助力构建<b class='flag-5'>未来</b><b class='flag-5'>数据中心</b> 充分发挥<b class='flag-5'>人工智能</b>AI的力量

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    8月28日至30日,2024深圳(国际)通用人工智能大会暨深圳(国际)通用人工智能产业博览会将在深圳国际会展中心(宝安)举办。大会以“魅力AI·无限未来”为主题,致力于打造全球通用
    发表于 08-22 15:00

    借助电源完整性测试提高人工智能数据中心的能效

    数据中心正在部署基于人工智能 (AI) 的威廉希尔官方网站 ,处理器密集型服务器正在推动能源需求的增长,下表说明了这种发展趋势所带来的巨大影响。国际能源署 (IEA) 预测,到2030年,数据中心的耗电量将占全球耗电量的7%,相当于印度全国的
    的头像 发表于 07-30 09:36 536次阅读
    借助电源完整性测试提高<b class='flag-5'>人工智能</b><b class='flag-5'>数据中心</b>的能效

    AI时代,我们需要怎样的数据中心?AI重新定义数据中心

    超过60%的中国企业计划在未来12至24个月内部署生成式人工智能。AI、模型的构建,将颠覆数据中心基础设施的建设、运维和运营。一个全新的数据中心智能化时代已经拉开序幕。
    发表于 07-16 11:33 702次阅读
    AI时代,我们需要怎样的<b class='flag-5'>数据中心</b>?AI重新定义<b class='flag-5'>数据中心</b>

    人工智能数据中心的新型连接解决方案

    支持新型人工智能数据中心架构的先进连接解决方案不断涌现。高速板对板连接器、下一代电缆、背板和近似集成电路连接器对电缆解决方案的运行速度高达224Gb/s-PAM4,将加速未来计算的发展。人工智
    的头像 发表于 06-13 08:26 550次阅读
    <b class='flag-5'>人工智能</b><b class='flag-5'>数据中心</b>的新型连接解决方案

    夏普讨论建立人工智能数据中心

    近日,夏普公司宣布与KDDI公司达成重要合作意向,双方将针对建立人工智能数据中心进行深入讨论。据悉,此次合作将围绕英伟达的人工智能计算平台和Supermicro平台展开,共同探索人工智能
    的头像 发表于 06-05 09:17 462次阅读

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17

    KakaoBank 入驻 Digital Realty 的 ICN10 数据中心以推动人工智能创新

    人工智能 (AI) 支持 KakaoBank 的金融威廉希尔官方网站 研究和发展,为消费者提供安全、便捷的移动银行服务 北京2024年2月16日 /美通社/ -- 世界领先的云和运营商中立数据中心、主机托管
    的头像 发表于 02-18 09:33 751次阅读
    KakaoBank 入驻 Digital Realty 的 ICN10 <b class='flag-5'>数据中心</b>以推动<b class='flag-5'>人工智能</b>创新