0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

利用边缘计算如何构建应用平台

星星科技指导员 来源:NVIDIA 作者:Amanda Saunders 2022-04-07 14:51 次阅读

物联网IoT )的发展和企业对人工智能的采用,使人们重新关注边缘计算。组织正在寻求利用这些物联网设备在边缘产生的数据,解决以前集中式数据中心云计算无法解决的挑战。

当边缘计算和人工智能(也称为 Edge AI )相结合时,用于实时推理,从而推动业务流程的数字转换。 Edge AI 是智能空间的核心威廉希尔官方网站 ,可提高效率、自动化工作流程、降低成本并改善整体客户体验。

如今,所有行业的组织都在工厂、零售店、石油钻塔和自动机器上推出 edge AI 解决方案。

与任何新的 IT 计划一样,充分利用边缘计算需要精心规划,以构建一个能够满足当今和未来任何扩展需求的平台。

什么是边缘计算?

从广义上讲, 边缘计算 指的是数据中心或云之外的任何东西。更具体地说,这是一种将计算能力从物理上转移到更接近数据生成位置(通常是物联网设备或传感器)的做法。

与云计算相比 ,边缘计算提供更低的延迟、更低的带宽要求和更好的数据隐私。有 不同类型的边缘计算 ,通常根据用例、网络需求或位置进行细分。内容交付网络、工厂检查、无摩擦商店和机器人都被认为是边缘计算的例子。

尽管存在差异,但好处仍然是一样的:低延迟、降低带宽要求和数据隐私。

边缘计算的成本是多少?

边缘计算的成本因规模、数据、位置和专业知识而大不相同。总体成本可能会增加或减少,具体取决于边缘环境中当前的基础设施。图 1 显示了几个关键因素。

图 1 影响成本的边缘计算解决方案的组件

基础设施成本

在边缘部署人工智能应用程序的首要考虑因素之一是支持用例所需的系统和传感器。一般来说,在添加新的硬件或软件之前,已经有了某种基础设施。边缘基础设施最常见的组件是传感器、计算系统和网络。

传感器

传感器的数量和类型都会影响组织的成本。许多组织已经对物联网传感器进行了投资,从而减少了边缘计算推广所需的总体投资。在添加传感器时,一次性使用的扫描仪可以快速添加。

摄像头是最通用的边缘设备之一,可以让您同时运行多个应用程序。其他传感器包括麦克风、条形码扫描仪或支持 RFID 的智能标签。

计算系统

边缘计算可以在一个简单的嵌入式设备上运行,成本高达数百美元。或者,它可以运行到半个甚至全机架的服务器,花费数十万美元。计算系统的大小取决于收集和处理的数据量、一个或多个人工智能模型的复杂性,以及在任何给定时间运行的推理次数。

当在边缘建立计算时,重要的是要考虑在环境中运行的现有和将来的边缘用例。一些应用程序可以在仅CPU的系统上运行,而其他应用程序需要 GPU ,或者可以从 GPU 中受益匪浅。

嵌入式设备,甚至是单 GPU 系统在前端都比较便宜。但是,如果您的计划是运行多个 AI 应用程序,那么一个具有多个 GPU 且可以运行多个工作负载的单一系统可以节省成本。在空间有限的地区,它通常也会更有效。

网络

大多数企业边缘使用案例都是在本地运行的,可以是硬连线到网络,也可以是 Wi-Fi 。这使得网络组件基本上是免费的。依赖蜂窝网络的远程设备确实会因传输的数据产生成本,如果数据是视频,成本会特别高。

AI-on-5G 是许多组织需要考虑的一个关键话题,尤其是那些正在研究依赖有保证的性能和高速无线网络的用例的组织。这些解决方案仍处于开发的早期阶段,这使得成本难以确定。

边缘计算的另一个网络考虑因素是查看将向数据中心或云发送哪些数据以及发送多少数据。大多数组织使用来自边缘的数据在一个集中的位置验证和再培训他们的人工智能模型。围绕数据构建一个考虑到网络和存储的战略对于确保管理维护边缘应用程序的总体成本至关重要。

申请费用

在未来几年,人工智能应用程序的生产数量预计将增长到 60% 以上。不是组织是否会部署人工智能应用程序,而是何时部署。组织要么构建或购买应用程序,要么使用混合方法。

构建人工智能应用程序

从头开始建设数据科学团队可能是一项艰巨的任务,尤其是由于大多数地区对合格候选人的需求很高,且供应有限。数据科学家的平均工资从 10 万美元到 15 万美元不等,取决于技能水平。即使是内部有人工智能开发人员的组织,也经常采用构建和购买相结合的策略,将其内部专业知识用于帮助其与众不同的关键应用程序。

购买人工智能应用程序

对于那些还没有数据科学家和人工智能开发人员的组织来说,购买人工智能应用程序是首选方法。

Prebuilt applications 可以定制,价格从数千美元到数万美元不等,具体取决于它们的许可方式。

Custom applications 从头开始构建,包括开发和推出,成本高达数十万美元。

根据客户需求,可以购买额外的服务合同,用于对这些应用程序进行持续管理和升级。

管理成本

边缘计算为管理带来了独特的挑战。这些环境高度分散,部署在远程位置,没有经过培训的 IT 人员,而且通常缺乏数据中心预期的物理安全性。

管理软件

专用边缘人工智能管理解决方案通常根据使用情况定价,管理中的系统或 GPU 是决定因素。这些解决方案具有为边缘部署量身定制的关键功能,以及随着成本增长而扩展的能力。这些解决方案的一些示例包括 NVIDIA Fleet Command 、 Azure IoT 和 AWS IoT 。

另一个管理选项是将传统的数据中心管理解决方案扩展到边缘。 VMware Tanzu 和 RedHat OpenShift 通常都存在于许多数据中心部署中,这意味着 IT 团队对它们有经验。将这些解决方案扩展到边缘可能需要增加许可成本,具体取决于公司签订的合同。

应考虑的其他成本包括使这些解决方案与边缘部署兼容所需的时间,以及对这些环境的持续管理。

托管服务

一些组织希望将其边缘计算环境的管理外包给系统集成商或其他管理合作伙伴。这些活动可能会有很大不同,包括人工智能模型的开发、基础设施的供应和管理,以及人工智能应用程序的推出和更新。

当构建和管理 edge AI 解决方案的内部专业知识有限时,通常会考虑此选项。根据范围、规模和持续时间的不同,这些项目的成本从数十万美元到数百万美元不等。

边缘计算比云计算便宜吗?

许多组织都在云计算领域进行了大量投资。现在,随着边缘计算的兴起,他们正在寻求节约成本。当 将边缘与云进行比较 出现时, edge AI 通常是一项新的投资,因此需要提前开始。如果将这一成本与移动流媒体数据并将其存储在云中的成本相比较,成本可能会有所降低。

大多数情况下,向边缘计算的转移是由于一个需要实时响应或部署在带宽有限的远程位置的用例。例如,由于延迟要求,云环境不可能提供预测性维护、安全警报或自动机器等工作负载。

在这种情况下,降低边缘计算的成本并不重要;相反,人工智能算法为组织带来了巨大的商业价值。

边缘计算的价值是什么?

对于大多数组织来说,边缘计算是一种范式转变。与其他转型转变一样,如果不仔细思考,这个过程可能会很复杂,成本也很高。然而,当与人工智能结合时,您的组织可以看到巨大的好处。从提高效率到降低运营成本,再到改善客户智能和体验, edge AI 带来的经济效益可以用数百万美元来衡量。

人工智能提供了一种无摩擦的购物体验,顾客可以走进商店,选择他们想要购买的商品,然后离开,商品会自动记入他们的账户。

零售商通过人工智能解决劳动力短缺和供应链问题 :在过去的一年里,零售商经历了令人难以置信的挑战,劳动力减少了 6.2% ,停工对全球供应链造成了严重破坏。使用人工智能解决方案,商店和餐馆已经能够改进自动化、预测和物流,为客户提供更好的体验。

人工智能检验降低了总制造成本 :在任何生产线上,手动检查都需要大量时间,并且需要高技能工人来保持高质量。当需要准确、快速的缺陷检测时,人工智能可以是提高整体设备效率( OEE )和提高生产线产量的完美解决方案。一家制造商能够通过在工厂使用人工智能光学检测,将检测成本从总制造成本的 30% 降低到 30% 。

智能医院优化工作流程,改善临床医生体验 :医疗服务的提供变得越来越具有挑战性,提供者、员工和 IT 都必须用更少的资源做更多的事情。人工智能有助于增强这些供应商的工作,为他们提供有价值的及时见解,不仅减轻他们的负担,还拯救生命。使用视觉人工智能监控患者和自动化工作流程,一个拥有 100 张床位的设施每年可以节省 1100 万美元。

开始

鉴于 Edge AI 的价值,如何推出成功的 edge 战略无疑是组织和 IT 部门关注的一个关键话题。作为人工智能领域的领导者,NVIDIA 与客户和合作伙伴合作,创建了能够提供强大分布式计算的边缘计算解决方案;安全远程管理;以及与业界领先威廉希尔官方网站 的兼容性。

关于作者

Amanda Saunders 在 NVIDIA 负责 Edge 和企业计算解决方案集团的 Edge AI 产品营销。她为医院、商店、仓库、工厂等带来了智能的边缘计算解决方案。除了从事 edge 解决方案之外, Amanda 还在 NVIDIA 担任销售和营销角色,与 AI 、数据科学、虚拟 GPU 和许多不同行业合作。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 物联网
    +关注

    关注

    2909

    文章

    44608

    浏览量

    373075
  • 人工智能
    +关注

    关注

    1791

    文章

    47244

    浏览量

    238365
  • 边缘计算
    +关注

    关注

    22

    文章

    3086

    浏览量

    48936
收藏 人收藏

    评论

    相关推荐

    开源项目 ! 利用边缘计算打造便携式视觉识别系统

    利用边缘计算打造便携式人工智能解决方案,面向开发者的视觉识别项目! 自制视觉识别系统 我们将深入探究一套堪称绝妙的软硬件组合,以助力开发者轻松构建便携式、高效的视觉识别装置。需要哪些
    发表于 12-16 16:31

    研华科技边缘AI平台荣获2024年IoT边缘计算卓越奖

    的 2024 年物联网边缘计算卓越奖。研华提供全栈式AI应用产品,以满足从边缘到云的工业 AI 应用的多样化需求,致力于推动工业边缘计算
    的头像 发表于 11-07 18:11 459次阅读

    边缘计算物联网平台是什么

    随着物联网(IoT)威廉希尔官方网站 的飞速发展,万物互联已成为现实。然而,面对海量数据的处理与实时响应需求,传统的云计算模式逐渐显露出其局限性,如数据传输延迟、带宽消耗大、数据安全与隐私保护等问题。为了解决这些问题,边缘计算物联网
    的头像 发表于 09-07 14:16 268次阅读

    边缘计算网关是什么?边缘计算网关的特点及价值

    设备和云平台的桥梁,其重要性日益凸显。本文将详细探讨工业级边缘计算网关的定义、特点以及其在智能制造中的应用价值。 一、工业级边缘计算网关的定
    的头像 发表于 06-18 15:59 2635次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>网关是什么?<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>网关的特点及价值

    边缘计算网关是什么

    边缘,靠近数据生成的地方,这样可以更快地处理数据,降低延迟,并且减轻中心服务器的负担。 边缘计算网关通常用于物联网(IoT)应用中,它们可以过滤和处理传感器数据,执行实时分析,并且只将最有价值的信息发送到中心服务器或云
    的头像 发表于 06-12 15:33 560次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>网关是什么

    边缘计算是什么意思?边缘计算的应用

    边缘计算(Edge Computing)是一种分布式计算范式,它将计算任务从数据中心迁移到网络边缘设备(如智能手机、物联网传感器等)上进行处
    的头像 发表于 05-31 14:19 767次阅读

    英特尔发布全新边缘计算平台,解决AI边缘落地难题

    2030年,至少一半的边缘计算部署将纳入AI。   英特尔全新商用边缘计算平台   英特尔认为,我们已经进入了AI无处不在的时代,
    的头像 发表于 03-12 09:06 4333次阅读
    英特尔发布全新<b class='flag-5'>边缘</b><b class='flag-5'>计算</b><b class='flag-5'>平台</b>,解决AI<b class='flag-5'>边缘</b>落地难题

    基于物联网平台边缘计算网关,打造高效能工厂设备监控系统方案

    利用边缘计算网关与物联网平台构建工厂车间在线检测设备监控系统,实现实时监控成为迫切需求。 二、方案介绍 万物 物联网设备监控方案旨在
    的头像 发表于 03-08 15:21 461次阅读
    基于物联网<b class='flag-5'>平台</b>与<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>网关,打造高效能工厂设备监控系统方案

    为什么需要边缘计算

    边缘计算是指在网络边缘执行计算的一种新型计算模型,边缘计算
    发表于 02-28 14:20 508次阅读
    为什么需要<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>

    边缘计算网关与边缘计算的融合之道

    随着物联网、大数据和人工智能的飞速发展,数据处理和分析的需求呈现出爆炸式增长。传统的中心化数据处理模式已难以满足实时性、低延迟和高带宽的需求,边缘计算应运而生,成为解决这一难题的关键威廉希尔官方网站 。而边缘
    的头像 发表于 02-26 16:29 463次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>网关与<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>的融合之道

    如何利用边缘计算网关进行机床数据采集

    边缘计算网关集成了数据采集、处理和传输功能的嵌入式设备。它位于传感器和执行器组成的设备层与云计算平台之间,能够实时处理和响应本地设备的数据请求,减轻云
    的头像 发表于 02-05 16:03 377次阅读

    什么是边缘计算边缘计算有哪些应用?

    什么是边缘计算边缘计算有哪些应用? 边缘计算是一种将计算
    的头像 发表于 01-09 11:29 1892次阅读

    边缘计算边缘智能计算区别

    边缘计算边缘智能计算是两个相关但不同的概念。边缘计算指的是数据处理和存储在靠近数据源的
    的头像 发表于 12-27 15:28 1076次阅读

    边缘计算平台是什么配置的

    边缘计算平台是一个分布式计算架构,可以在靠近数据源的边缘设备上执行计算任务。它解决了传统
    的头像 发表于 12-27 15:23 903次阅读

    边缘计算平台开源框架有哪些类型

    边缘计算平台开源框架是指基于边缘计算概念开发的开源软件框架,用于构建和管理
    的头像 发表于 12-27 15:17 1311次阅读