0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

使用边缘AI支持在物联网设备上实现实时决策

MATLAB 来源:MATLAB 2024-01-04 10:09 次阅读

物联网 (IoT) 的战略潜力推动工程师部署了越来越多的边缘设备。这些设备可在没有持续互联网连接的情况下收集、处理和运行数据推断。一直以来,各个机构都是将在边缘收集的数据发送到云中,由机器学习模型进行处理,因为设备缺乏处理这些数据所需的算力。

随着更强大的处理器和模型压缩软件的发展,对云计算的依赖已有所减少。相反,边缘设备现在有能力在本地执行密集的 AI 计算,而这种计算以前是在云中完成的。互联网连接设备的数量预计在 2030 年将达到 290 亿台[1],随之而来的是对边缘 AI 的需求的指数级增长。预计到 2027 年,边缘 AI 将融入 65% 的边缘设备中[2]。

推动边缘 AI 发展的赋能威廉希尔官方网站

边缘 AI 市场预计将从 2022 年的 156 亿美元增长到 2029 年的 1074 亿美元[3]。边缘 AI 并非新概念,但最新威廉希尔官方网站 进步使得边缘 AI 的实现更加简单和经济。如今推动边缘 AI 的四项主要进步是:

微控制器 (MCU) 和数字信号处理器 (DSP) - 矢量处理器变得更加强大,同时芯片供应商也在对其进行自定义以满足 AI 处理的需求。这些类型的处理器目前在 AI 硬件中占据着主导地位。

GPU(图形处理单元)- 最初用于图形密集型应用,如游戏和视频编辑,GPU 现在已用于训练 AI 模型和运行推断。

AI 加速器 ASIC - 虽然在 AI 相关任务中 GPU 的性能优于 CPU,但为 AI 工作负载量身定制的自定义专用集成电路 (ASIC) 可以提供更高的速度和效率。神经处理单元 (NPU) 是一种专门为处理 AI 模型而设计的 ASIC,因此它们比 CPU 更适合这项任务。

模型压缩方法 - 由于边缘设备通常在内存和处理能力方面存在限制,因此在保持类似准确性和性能水平的同时压缩模型至关重要。如今最常见的 AI 压缩方法有:

剪枝 - 删除不必要或不太重要的参数,以提高 AI 模型的效率、速度和内存需求,同时最大限度地避免性能下降。

量化 - 通过降低模型中数值的精度来降低内存负载,提高模型的推断速度和能效。

知识蒸馏 - 将复杂模型的知识迁移到更紧凑的模型中,以interwetten与威廉的赔率体系 原始模型的行为和性能。

低秩分解 - 通过将高维数据分解为低维表示来压缩高维数据,以简化复杂的神经网络模型,同时保留辨识特征。

使用边缘 AI 减少对云计算的依赖

虽然边缘 AI 可能不会完全取代基于云的计算,但处理日益增长的海量数据的需求清楚地表明了一点:工程师无法忽视当今边缘 AI 改变游戏规则的优势。边缘 AI 的主要优势是实时的处理和决策,这会缩短延迟并降低与耗电和云处理相关联的成本。基于局部数据运行推断会减少发送到公共云、私有云或混合云进行处理的原始数据。云服务在特定应用中至关重要,并且可以通过在边缘设备上运行数据推断来得到增强。

通过减少对持续互联网连接的依赖,工程师能够在许多行业更高效地实现边缘 AI 模型。现已有超出 400 个边缘计算用例[4],涵盖 19 个行业和 6 个威廉希尔官方网站 领域。集成到边缘设备中的 AI 模型在一些应用中(例如汽车和医学)可能能够拯救生命。

边缘 AI 支持在设备上的实时智能决策,可显著提高许多应用的效率、响应能力和自适应性。

汽车安全关键型系统

汽车就是一个边缘设备在本地收集和处理数据从而减少必须发送到云的数据量的一个示例。由于汽车电子控制单元 (ECU) 的自包含性质,数据处理必须在本地执行,安全关键决策必须实时作出。汽车 ECU 等边缘设备上的机器学习模型通过使用实时数据来适应路况并减少碰撞,从而确保乘客安全。

一家汽车制造商训练机器学习模型来检测过度转向 - 车辆后轮在转弯时失去对路面的抓地力时会出现过度转向。制造商采集了成千上万个与车辆加速度、转向和偏航率(角速度)相关的数据点。通过将数据加载到 MATLAB 中,工程师可以使用 Statistics and Machine Learning Toolbox [5] 训练机器学习模型来识别过度转向。然后,他们使用 MATLAB Coder [6] 将机器学习模型部署并集成到 ECU 中。

ee227628-aa1f-11ee-8b88-92fbcf53809c.png

MATLAB 和 Simulink 的自动代码生成功能支持在嵌入式设备上进行快速原型构建和部署边缘 AI 应用,弥合理论和实践之间的差距。

医疗器械中的实时决策

边缘 AI 在医疗设备领域的一个优势是能够快速作出决策。实时数据分析和异常检测可实现及时干预,并降低与威胁生命和长期健康状态相关联的风险。医疗边缘设备还可以与云中的应用程序进行通信以记录数据,而这不是一项时间敏感型任务。这样,云计算并不会阻碍反而增强了边缘设备上的数据推断,从而创建了更加强大的设备网络

例如,某威廉希尔官方网站 研究所研究小组为人工胰腺 (AP) 系统开发了预测算法,可检测即将发生的低血糖和高血糖。该小组创建了虚拟患者,并使用 MATLAB 模拟心率和能量消耗等生理信号。完整的算法部署在移动设备上,该设备与胰岛素泵、血糖监测仪和可穿戴腕带通信以实现有效的血糖浓度控制。最终,该研究小组创建了一个边缘设备网络,作为一个集成的健康监控系统协同工作。

结束语

工程师必须管理的数据量日益增长,边缘 AI 的实现有助于保持运营和成本效率,同时减少对云处理的依赖。随着工程师构建云推断和 AI 赋能威廉希尔官方网站 的不断发展,将 AI 集成到边缘设备很快成为公司打造特色产品的必要条件。最重要的是,边缘 AI 应被视为云推断的附加工具,而不是当前基于 AI 的系统的替代或全面革新。通过在边缘实现 AI 并将云用于允许时间延迟的应用,任何行业的工程师都可以扩展其 AI 工具箱。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微控制器
    +关注

    关注

    48

    文章

    7542

    浏览量

    151317
  • 处理器
    +关注

    关注

    68

    文章

    19259

    浏览量

    229653
  • 集成电路
    +关注

    关注

    5387

    文章

    11530

    浏览量

    361646
  • 物联网
    +关注

    关注

    2909

    文章

    44557

    浏览量

    372799
  • AI加速器
    +关注

    关注

    1

    文章

    68

    浏览量

    8634

原文标题:边缘 AI:支持在物联网设备上实现实时决策

文章出处:【微信号:MATLAB,微信公众号:MATLAB】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    边缘网关的介绍

    来自终端设备的数据,并将处理后的有价值信息上传至云端,同时实现设备的远程监控和控制。 联网
    的头像 发表于 11-18 17:17 235次阅读

    如何使联网边缘设备高效节能?

    电源效率对于联网的成功至关重要。设备的效率越高,其功能寿命就越长,用户体验就越好。您是否组织中实施了
    的头像 发表于 09-24 15:18 530次阅读
    如何使<b class='flag-5'>物</b><b class='flag-5'>联网</b><b class='flag-5'>边缘</b><b class='flag-5'>设备</b>高效节能?

    NVIDIA IGX平台加速实时边缘AI应用

    实时边缘 AI 对于医疗、工业和科学计算至关重要,因为这些任务关键型应用需要即时数据处理、低延迟和高可靠性,以确保作出及时准确的决策。这些挑战不仅涉及硬件平台上的高带宽传感器处理和
    的头像 发表于 09-09 10:14 516次阅读
    NVIDIA IGX平台加速<b class='flag-5'>实时</b><b class='flag-5'>边缘</b><b class='flag-5'>AI</b>应用

    边缘计算联网平台是什么

    随着联网(IoT)威廉希尔官方网站 的飞速发展,万互联已成为现实。然而,面对海量数据的处理与实时响应需求,传统的云计算模式逐渐显露出其局限性,如数据传
    的头像 发表于 09-07 14:16 265次阅读

    芯品# 联网市场性能最高的 NPU

    随着人工智能 (AI我们的日常生活中继续发挥更大的影响力和影响,该领域正在从基于云的推理迁移到边缘和端点推理。基于边缘的推理为各种
    的头像 发表于 06-26 17:28 7822次阅读
    芯品# <b class='flag-5'>物</b><b class='flag-5'>联网</b>市场性能最高的 NPU

    边缘AI网关,将具备更强大的计算和学习能力

    和管理设备数据,提供连接、计算、存储和安全等功能的关键设备。它将联网节点、终端设备与云平台连接在一起,
    的头像 发表于 06-06 00:26 3515次阅读

    边缘计算智能网关为联网设备高效通信赋能

    联网的世界中,数以亿计的设备不断产生、传输和处理数据。然而,传统的云计算架构面对这些实时
    的头像 发表于 05-29 14:40 687次阅读

    支持大模型部署和运行的边缘计算SoC芯片

    的处理器核心、AI加速器、内存控制器、外设接口以及通信接口等关键组件,旨在在数据产生的源头附近(即边缘实现实时的数据处理、分析和决策
    的头像 发表于 05-27 08:00 3400次阅读

    部署边缘设备的轻量级模型

    电子发烧友网报道(文/李弯弯)边缘AI算法是一种将人工智能(AI)算法和计算能力放置接近数据源的终端设备中的策略。这种算法通常被部署
    的头像 发表于 05-11 00:17 2602次阅读

    联网边缘网关优势有哪些及相关优势产品

    联网应用提供了强大的支持联网边缘网关的应用场景广泛,几乎涵盖了所有需要
    的头像 发表于 03-26 15:20 341次阅读
    <b class='flag-5'>物</b><b class='flag-5'>联网</b><b class='flag-5'>边缘</b>网关优势有哪些及相关优势产品

    NanoEdge AI的威廉希尔官方网站 原理、应用场景及优势

    NanoEdge AI 是一种基于边缘计算的人工智能威廉希尔官方网站 ,旨在将人工智能算法应用于联网(IoT)设备和传感器。这种威廉希尔官方网站 的核心思想是将数据处
    发表于 03-12 08:09

    基于联网平台与边缘计算网关,打造高效能工厂设备监控系统方案

    ,利用边缘计算网关与联网平台构建工厂车间在线检测设备监控系统,实现实时监控成为迫切需求。 二、方案介绍 万
    的头像 发表于 03-08 15:21 455次阅读
    基于<b class='flag-5'>物</b><b class='flag-5'>联网</b>平台与<b class='flag-5'>边缘</b>计算网关,打造高效能工厂<b class='flag-5'>设备</b>监控系统方案

    智慧社区建设中应用AI边缘智能分析设备边缘设备可以解决哪些问题?

    “智慧社区”的建设除了可以安装监控摄像头、AI面部摄像机等智能设备来守护社区居民的安全,还可以引入AI边缘智能分析设备。例如安装布置
    的头像 发表于 01-15 15:05 549次阅读
    智慧社区建设中应用<b class='flag-5'>AI</b><b class='flag-5'>边缘</b>智能分析<b class='flag-5'>设备</b>、<b class='flag-5'>边缘</b><b class='flag-5'>设备</b>可以解决哪些问题?

    边缘AI它到底是什么?能做什么?

    边缘,减少了数据的传输延迟和依赖云端的通信需求。边缘AI能够接近数据源的设备上进行实时
    的头像 发表于 01-11 14:44 1290次阅读

    工业联网网关实现数据采集云解决方案  

    数字化转型与决策升级。对此,通博联基于丰富成熟的行业落地经验,提供基于工业联网网关实现数据采集
    的头像 发表于 01-11 14:30 595次阅读
    工业<b class='flag-5'>物</b><b class='flag-5'>联网</b>网关<b class='flag-5'>实现</b>数据采集<b class='flag-5'>上</b>云解决方案