0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

两种深度学习威廉希尔官方网站 部署:在设备上在云端和边缘

姚小熊27 来源:TechWeb.com.cn 作者:TechWeb.com.cn 2020-12-09 11:18 次阅读

如今,有两种可能的深度学习威廉希尔官方网站 部署:直接在设备上在云端和边缘。

由于对处理能力和内存消耗的广泛需求以及AI模型的规模,这些部署中的大多数依赖于云。尽管云部署使AI可以从高性能计算系统的功能中受益,但挑战依然存在。需要将数据从设备来回发送到云以进行处理会引起隐私问题,并且由于延迟,带宽和连接性而存在限制。

这促使业界专注于边缘AI的开发,这是我在上一篇文章中谈到的主题。这些工作主要围绕引入用于训练AI模型的新方法进行,这些方法可以减少占用空间,因此可以将这些模型直接部署在边缘设备上。

边缘AI将通过使智能设备实时做出真正自主的决策来解决深度云的不足,从而促进深度学习。具体而言,这将消除了将所有数据连续发送到云或从云连续发送的需要,从而改善了隐私,带宽和延迟限制。此外,新兴的边缘AI部署方法极大地提高了速度,功耗和内存消耗,从而可以降低成本并限制对环境的影响。

一个人的利益不能被另一个人完全取代;因此,最具影响力的现实世界AI部署将是采用混合方法的部署:在云中和边缘。但是混合方法是什么样的呢?

混合部署的免费工作流可获得更好的结果

第一步是通过确定必须实时在边缘进行决策的用例,并通过可在云中进行处理以进行长期分析和改进的方案,来淘汰可最大化效率和可扩展性的工作流程。

如果您在智能边缘设备上部署深度学习,那么在需要实时决策的情况下,例如自动驾驶汽车,农业无人机和系统,摄像机,移动设备等。同时,系统可以将数据上传到云中以进行存储以及进一步处理和分析,而这些处理和分析可以由功能更强大的引擎执行。这将确保该系统可以实现大功率计算的优势,并允许将云中的数据与其他系统中的数据进行组合。

利用这些组合数据,可以对模型进行重新训练以进行持续改进。一旦在云中进行了再培训,就可以在边缘重新部署新模型。

与采用单一方法相比,将云AI和边缘部署的优势整合在一起更强大。具体来说,云AI的处理能力和高性能可以补充边缘AI的效率,速度和自主性。

混合方法在行动

人工智能在自动驾驶汽车中的应用是一个说明补充方法好处的特定用例。

在此用例中,至关重要的是,AI模型必须在边缘,直接在设备和车辆上运行,以确保汽车可以安全行驶。如果汽车在将数据发送到云端并进行处理之前无法采取行动,那么它将无法做出反应并迅速做出决策以确保安全。另外,无法保证车辆将保持连续的互联网连接。

但是,汽车制造商还可以从捕获数据中受益,而不仅仅是实时决策所必需的。将收集的数据发送到云进行处理是持续改进和重新训练模型的关键。这不仅可以彻底处理设备的数据,而且还可以将深度学习的见解与从其他边缘设备收集的数据相结合,以进行更大的输入和理解。基于此见解,可以不断改进算法以发展自动驾驶汽车系统。

下一步是什么?边缘AI和云AI的演变

随着越来越多的组织在云端或边缘利用AI的力量,我们将看到更多能够提供现实价值的深度学习应用程序。

5G的兴起将继续推动深度学习的发展。随着5G变得越来越普遍,它将增强超级计算的可访问性。具体来说,5G将使从边缘到云的数据共享变得更加无缝和高效,从而促进更高效的数据处理。

但是,即使使用5G,仍然需要在边缘进行实时决策。云仍将无法即时满足边缘应用程序对数据处理的需求。因此,在计划部署模型时,边缘AI必须继续成为AI公司关注的焦点。对于云和边缘部署采用互补方法的企业,无论是在其模型的短期处理能力还是在有效存储,处理和改进模型的长期能力上,都将获得最大的成功。
责任编辑:YYX

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    47208

    浏览量

    238303
  • 云端
    +关注

    关注

    0

    文章

    119

    浏览量

    16867
  • 深度学习
    +关注

    关注

    73

    文章

    5500

    浏览量

    121118
收藏 人收藏

    评论

    相关推荐

    边缘设备设计和部署深度神经网络的实用框架

    ‍‍‍‍ 机器学习深度学习应用程序正越来越多地从云端转移到靠近数据源头的嵌入式设备。随着边缘
    的头像 发表于 12-20 11:28 94次阅读

    AI模型部署边缘设备的奇妙之旅:目标检测模型

    以及边缘计算能力的增强,越来越多的目标检测应用开始直接在靠近数据源的边缘设备运行。这不仅减少了数据传输延迟,保护了用户隐私,同时也减轻了云端
    发表于 12-19 14:33

    AI模型部署边缘设备的奇妙之旅:如何在边缘部署OpenCV

    视觉领域最有力的研究工具。深度学习中,我们会经常接触到个名称,图像处理和计算机视觉,它们之间有什么区别呢? 图像处理 (Image Processing) 目的:图像处理主要集中
    发表于 12-14 09:31

    AI模型部署边缘设备的奇妙之旅:如何实现手写数字识别

    新的数据样本,另一个是判别器用来判断这些样本的真实性。者相互竞争,共同进化,最终实现高质量的数据合成。 2.4 模型优化威廉希尔官方网站 深度学习
    发表于 12-06 17:20

    NPU深度学习中的应用

    随着人工智能威廉希尔官方网站 的飞速发展,深度学习作为其核心驱动力之一,已经众多领域展现出了巨大的潜力和价值。NPU(Neural Processing Unit,神经网络处理单元)是专门为
    的头像 发表于 11-14 15:17 521次阅读

    FPGA做深度学习能走多远?

    的需求不断增加,FPGA 边缘设备的应用也将迎来更多机遇。 • 工具和开发环境的完善:目前,FPGA 的开发工具和环境相对较为复杂,对开发者的
    发表于 09-27 20:53

    wdm设备两种传输方式

    系统中,有多种传输方式,其中最常见的两种是密集波分复用(DWDM)和粗波分复用(CWDM)。 1. 密集波分复用(DWDM) 1.1 DWDM威廉希尔官方网站 原理 密集波分复用(Dense Wavelength Division Multiplexing,简称DWDM)是一
    的头像 发表于 07-18 09:45 471次阅读

    深度学习模型量化方法

    深度学习模型量化是一重要的模型轻量化威廉希尔官方网站 ,旨在通过减少网络参数的比特宽度来减小模型大小和加速推理过程,同时尽量保持模型性能。从而达到把模型部署
    的头像 发表于 07-15 11:01 492次阅读
    <b class='flag-5'>深度</b><b class='flag-5'>学习</b>模型量化方法

    深度学习算法嵌入式平台上的部署

    随着人工智能威廉希尔官方网站 的飞速发展,深度学习算法各个领域的应用日益广泛。然而,将深度学习算法
    的头像 发表于 07-15 10:03 1343次阅读

    深度学习算法集成电路测试中的应用

    随着半导体威廉希尔官方网站 的快速发展,集成电路(IC)的复杂性和集成度不断提高,对测试威廉希尔官方网站 的要求也日益增加。深度学习算法作为一强大的数据处理和模式识别
    的头像 发表于 07-15 09:48 978次阅读

    深度学习自动驾驶中的关键威廉希尔官方网站

    随着人工智能威廉希尔官方网站 的飞速发展,自动驾驶威廉希尔官方网站 作为其中的重要分支,正逐渐走向成熟。自动驾驶系统中,深度学习
    的头像 发表于 07-01 11:40 756次阅读

    部署边缘设备的轻量级模型

    电子发烧友网报道(文/李弯弯)边缘AI算法是一将人工智能(AI)算法和计算能力放置接近数据源的终端设备中的策略。这种算法通常被部署
    的头像 发表于 05-11 00:17 2605次阅读

    FPGA深度学习应用中或将取代GPU

    上涨,因为事实表明,它们的 GPU 训练和运行 深度学习模型 方面效果明显。实际,英伟达也已经对自己的业务进行了转型,之前它是一家纯粹做 GPU 和游戏的公司,现在除了作为一家云
    发表于 03-21 15:19

    AI边缘计算机应用场景广泛!大语言模型与数字人结合方案边缘侧落地

    电子发烧友网报道(文/李弯弯)AI边缘计算机是一人工智能和边缘计算威廉希尔官方网站 相结合的计算机设备。它可以
    的头像 发表于 01-16 01:11 4437次阅读
    AI<b class='flag-5'>边缘</b>计算机应用场景广泛!大语言模型与数字人结合方案<b class='flag-5'>在</b><b class='flag-5'>边缘</b>侧落地

    边缘部署大模型优势多!模型量化解决边缘设备资源限制问题

    电子发烧友网报道(文/李弯弯)大模型的边缘部署是将大模型部署边缘设备
    的头像 发表于 01-05 00:06 3528次阅读