0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AIGC掀算力需求革命,边缘计算将不再“边缘”

科技云报到 来源:jf_60444065 作者:jf_60444065 2024-04-22 14:51 次阅读

科技云报道原创

随着以大模型为代表的AIGC时代拉开序幕,算力需求持续爆发,AI与边缘深度融合已是大势所趋,越来越多的企业开始积极布局GenAI。

GenAI威廉希尔官方网站 的商用化部署和应用成为企业竞逐的新阵地,勾勒出大模型从“威廉希尔官方网站 力”转向“生产力”的新生态。

算力就是生产力,更丰富的算力资源成为人工智能竞争的核心基石。

IDC预计,全球AI计算市场规模将从2022年的195亿美元增长到2026年的346.6亿美元,其中GenAI计算市场规模将从2022年的8.2亿美元增长到2026年的109.9亿美元。

GenAI计算占整体AI计算市场的比例将从4.2%增长到31.7%。

AI算力瓶颈下边缘计算崛起

随着AI大模型爆发,大模型迭代和训练所需的算力呈指数级增长。同时,单个AI超算规模也受到功耗、土地、散热等因素制约,算力供给与需求的缺口持续放大。

此前,ChatGPT官网一度停止Plus付费项目的购买,GPT-4推出之后也已多次下调付费用户访问限制,原因是访问量激增超出了服务器的承受能力。

随着这场GenAI热潮逐步扩张,算力短缺已成为行业面临的共同挑战。

如果说传统算力是AI大模型的筋骨,那么边缘算力就是遍布全身的神经系统。

英伟达指出,为了有效运用算力达成AI应用目标,大规模数据中心势必要增加资本支出以扩大云端运算效能,同时也将带动边缘设备的销售。

在AI向实际场景落地的过程中,边缘算力的重要性将加速凸显。未来的AI运算将呈现出“训练与迭代在云端、推理与内容生产梯度分布(云侧+雾侧+边缘侧)”的格局变化,边缘算力有望成为AI算力的重要组成部分。

相较于传统云端,边缘计算作为一种分布式计算架构,具有低延迟、高安全性、高可靠性、保护用户隐私等优势,其在实时决策在自动驾驶、医疗保健、金融、制造等各个领域都至关重要。

从效率方面看,边缘计算使GenAI模型能够在边缘处理数据,从而显着减少延迟并实现更快洞察。这意味着可以实时做出关键决策,从而提高运营效率、增强客户体验和更好的整体业务成果。

其次,通过利用边缘计算,企业可以在边缘设备网络上分配计算负载,从而优化资源利用率并有效扩展。这种方法最大限度地减少了集中式云基础设施的压力并优化了带宽使用,从而节省了成本并提高了性能。

第三,通过边缘计算,GenAI模型可以直接在边缘设备或本地服务器上运行,最大限度地减少将敏感数据传输到集中式云服务器的需要。

通过使数据更接近其来源,公司可以显着降低与数据泄露、未经授权的访问和合规性问题相关的风险。

从关系上看,边缘计算并不寻求取代云计算,相反是对其重要的补充。边缘计算和云之间的协作可实现混合架构,最大限度地发挥两种范式的优势。

GenAI模型可以利用云的可扩展性和存储功能,同时受益于边缘设备的低延迟和本地处理能力。这种融合确保了GenAI采用的多功能且适应性强的基础设施。

边缘计算重构生产力边界

随着企业开始越来越多地拥抱AI,边缘计算和AI的融合拥有改变全球行业的巨大潜力。通过利用本地化处理、实时洞察和优化的资源利用,可以充分释放AI的全部潜力,同时保护敏感数据并推动组织进入AI时代。

对此,全球科技巨头开始将目光越来越多地转向这一领域。

比如,华为、高通均推出边缘AI产品。去年3月,高通中国在安卓手机上首次演示了模型参数超过10亿的Stable Diffusion;华为于去年7月发布智慧搜图功能,该功能通过对模型进行小型化处理。

华为与高通一定程度上验证了高性能边缘AI的可行性,并且表明通过模型压缩+联网智能的方式有望在边缘端实现AI大模型的体验。

此外,英伟达黄仁勋也表示,人工智能的下一个浪潮将是具身智能。具身智能能够在物理世界中进行操作和感知,输出各种机械动作。

具身智能将边缘算力需求提升到了一个新高度,具身智能的“大脑”不仅要处理视觉信息、生成提示词,更要负责输出指令来执行机械动作。在移动芯片无法满足所需算力的场景下,边缘IDC将是算力的有效补充措施。

AIPC、AI手机、具身智能、自动驾驶等AI新应用的兴起,无疑为边缘云市场带来了巨大影响,这种影响既体现在市场规模的扩张,也反映在威廉希尔官方网站 要求的提升方面。

AIPC、AI手机作为AI普惠的终端,其本质在于云端与本地端的混合协作,通过利用云端的大数据处理能力来丰富本地设备的使用场景。

这种混合协作模式对云计算的性能和稳定性提出了更高的要求,同时也为云计算带来了更多的数据处理和存储需求。

边缘云作为离用户最近的数据处理中心,能够迅速响应这些需求,提供低延迟、高带宽的数据处理服务。

具身智能和自动驾驶的发展,更是推动了边缘云市场的快速增长。智能机器人需要在真实的物理环境下执行各种任务,这就需要边缘云提供强大的实时计算能力和数据交互能力。

不仅如此,边缘AI应用场景仍在持续丰富。边缘云服务提供商Zenlayer威廉希尔官方网站 专家表示,对于实时性要求极高的应用,如自动驾驶和智能制造,边缘计算能够提供毫秒级的低延迟响应。

通过在车辆或生产线上部署边缘计算节点,客户可以实时处理传感器数据,进行决策和控制,从而确保安全和高效的生产运行。

其次,对于需要处理大量数据的应用,如智能视频监控和智慧城市,边缘计算能够减轻中心云的压力,实现数据的本地化处理。

通过在摄像头或传感器附近部署边缘计算设备,可以对视频流进行实时分析,识别异常事件,并及时进行响应。

此外,边缘计算还能够解决大模型在数据传输和隐私保护方面的问题。通过将模型推理过程放在边缘端进行,可以减少数据传输量,降低网络带宽要求,同时保护用户数据的隐私和安全。

事实上,目前已有企业开始探索边缘计算在AI大模型中的应用。

据Zenlayer威廉希尔官方网站 专家介绍,某家专注于大模型威廉希尔官方网站 的初创企业基于Zenlayer提供的一整套SDN解决方案,通过智能路由和数据传输协议优化等手段,搭建了一条高效稳定的数据传输通道,确保大模型在训练、推理等关键环节都能获得及时、准确的数据支持,从而显著提升了模型的应用效果和用户体验。

此外,还有对于一些AI大模型客户希望将算力资源部署至海外,Zenlayer针对这类需求,提供了算力托管或算力租赁服务,将计算资源部署在靠近用户的边缘数据中心,使大模型推理能够在本地进行,极大地降低了数据传输的延迟和成本。

同时,Zenlayer还为客户提供了一系列数据本地存储和传输方案,在满足各个国家对数据合规要求的同时,尽量优化业务交互体验。

结语

如果把视线放得更长远,在AI等众多颠覆性威廉希尔官方网站 的背后,总离不开边缘计算的存在。当全球都沸腾在AIGC的风潮里,边缘云服务商正通过边缘端和云边的融合协同,满足更多元的AI应用场景,以更自如的算力,让AI威廉希尔官方网站 更自如地普惠。

【关于科技云报道】

专注于原创的企业级内容行家——科技云报道。成立于2015年,是前沿企业级IT领域Top10媒体。获工信部权威认可,可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 边缘计算
    +关注

    关注

    22

    文章

    3085

    浏览量

    48905
  • 算力
    +关注

    关注

    1

    文章

    966

    浏览量

    14796
  • AIGC
    +关注

    关注

    1

    文章

    361

    浏览量

    1540
收藏 人收藏

    评论

    相关推荐

    未来边缘GPU在车联网中的创新应用(下)

    本文来源:壹灵海科技随着5G通信威廉希尔官方网站 的普及和人工智能威廉希尔官方网站 的飞速发展,边缘GPU将在车联网领域发挥更加重要的作用。5G网络的高带宽和低延迟特性为车联网提供了强大的支持,使得车辆能够实时地交换大量
    的头像 发表于 12-19 11:16 124次阅读
    未来<b class='flag-5'>边缘</b>GPU<b class='flag-5'>算</b><b class='flag-5'>力</b>在车联网中的创新应用(下)

    一体化与边缘计算:重新定义智能计算的未来

    、人工智能(AI)等威廉希尔官方网站 的发展,数据量的分布性、实时性需求增加,边缘计算也逐渐从概念走向落地。本文将介绍存一体化与边缘
    的头像 发表于 11-12 01:05 214次阅读
    存<b class='flag-5'>算</b>一体化与<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>:重新定义智能<b class='flag-5'>计算</b>的未来

    英特尔携手浪潮信息从边缘计算边缘迈进

    对多样化应用场景的适应性和服务能力。随着大模型和人工智能领域的快速发展,需求将愈发成为制约企业转型、成长的因素。 从边缘计算
    的头像 发表于 11-10 14:03 813次阅读

    未来边缘GPU在车联网中的创新应用

    随着汽车智能化、网联化的发展,车联网作为智能交通系统的重要组成部分,正逐渐成为全球汽车产业创新发展的重要战略方向。边缘GPU力作为一种新兴的计算威廉希尔官方网站 ,具有高性能、低延迟、安全可靠等特点,为车联网
    的头像 发表于 10-25 08:08 267次阅读
    未来<b class='flag-5'>边缘</b>GPU<b class='flag-5'>算</b><b class='flag-5'>力</b>在车联网中的创新应用

    边缘计算边缘设备的关系

    边缘计算边缘设备之间存在着密切的关系,它们是相互依存、相互促进的。以下是对这两者关系的介绍: 一、定义与功能 边缘计算
    的头像 发表于 10-24 14:33 348次阅读

    边缘计算网关是什么?边缘计算网关的特点及价值

    在当今日益发展的工业互联网时代,智能制造正逐渐改变着传统制造业的生产模式和运营效率。在这个转变中,数据的处理和分析能力成为企业提升竞争、实现智能化转型的关键。其中,工业级边缘计算网关作为连接工业
    的头像 发表于 06-18 15:59 2619次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>网关是什么?<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>网关的特点及价值

    边缘计算是什么意思?边缘计算的应用

    边缘计算(Edge Computing)是一种分布式计算范式,它将计算任务从数据中心迁移到网络边缘设备(如智能手机、物联网传感器等)上进行处
    的头像 发表于 05-31 14:19 760次阅读

    边缘计算单元多接入能力怎么

    边缘计算作为一种分布式计算模式,其多接入能力是评估其性能和扩展性的重要指标之一。在实际应用中,我们需要考虑多个因素来计算边缘
    的头像 发表于 05-16 17:51 307次阅读

    为什么需要边缘计算

    边缘计算是指在网络边缘执行计算的一种新型计算模型,边缘计算
    发表于 02-28 14:20 505次阅读
    为什么需要<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>

    边缘计算网关与边缘计算的融合之道

    随着物联网、大数据和人工智能的飞速发展,数据处理和分析的需求呈现出爆炸式增长。传统的中心化数据处理模式已难以满足实时性、低延迟和高带宽的需求边缘计算应运而生,成为解决这一难题的关键技
    的头像 发表于 02-26 16:29 460次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>网关与<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>的融合之道

    EASY-EAI携手Hailo推出高性能、高边缘AI硬件组合

    EASY-EAI与Hailo建立合作关系,共同推出高边缘AI产品组合。
    的头像 发表于 02-21 09:56 821次阅读

    什么是边缘计算边缘计算有哪些应用?

    什么是边缘计算边缘计算有哪些应用? 边缘计算是一种将计算
    的头像 发表于 01-09 11:29 1871次阅读

    边缘计算边缘智能计算区别

    边缘计算边缘智能计算是两个相关但不同的概念。边缘计算指的是数据处理和存储在靠近数据源的
    的头像 发表于 12-27 15:28 1065次阅读

    边缘计算平台是什么配置的

    边缘计算平台是一个分布式计算架构,可以在靠近数据源的边缘设备上执行计算任务。它解决了传统计算模式
    的头像 发表于 12-27 15:23 900次阅读

    边缘计算框架有哪些

    应用的需求边缘计算架构的出现,为各种行业提供了更高效、更灵活的计算和数据处理方式,有助于推动数字化转型和智能化发展。本文将详尽介绍边缘
    的头像 发表于 12-27 15:01 1477次阅读