AI如何在数以百亿的MCU嵌入式应用中落地?海思正在给出自己的答案。海思A²MCU聚焦行业专用(Application Specific)和嵌入式AI威廉希尔官方网站 (Artificial Intelligence),将AI领域超轻量级的威廉希尔官方网站 框架、极致性能的推理要求、方便快速的部署能力与MCU深度融合,为MCU行业客户探索智能化应用提供新的选择。在TCL小蓝翼P7新风空调发布会上,海思与TCL空调联合发布“A²MCU,让空调越用越节能”解决方案,正是A²MCU的初露锋芒。
为什么嵌入式AI关注度越来越高?
嵌入式AI是将AI算法嵌入到端侧设备中,使得设备能够具备智能化、自动化和高效化的能力。AI的历史可以追溯到20世纪50年代,进入21世纪,受益于算力的迅猛提升,以及大数据、云计算、深度学习等威廉希尔官方网站 发展,人工智能在图像识别、语音识别、自然语言处理、机器人、自动驾驶等领域取得了突破性的进展。随着应用的拓展和渗透,端侧AI近几年逐渐成为业界热点。相对于数百万到千万的AI服务器,端侧AI MCU的数量级将高达数以百亿。基于现有的AI范式,由于资源的限制、模型的适应性等因素,AI越向下越难做,但同时AI下沉带来的商业潜力也很大。因此将AI威廉希尔官方网站 嵌入到端侧最底层的MCU芯片,已成为业界领先MCU企业都在探索的新方向。
基于MCU的AI方案在行业落地,会有哪些困难?
由于MCU硬件性能限制、AI软件的复杂度高、william hill官网 实时性要求高、能耗限制严格、数据安全性要求高,嵌入式AI在MCU的william hill官网 落地需要业务团队同时具备丰富的AI知识经验,以及嵌入式软硬件能力。
一方面要开发团队与落地场景之间要展开深度合作。基于真实场景的基础数据及嵌入式AI团队提供的专业的定制化方案,才能真正解决问题,做出价值。
另一方面要能够实现AI模型到MCU的快速部署。通用AI模型往往并不是针对嵌入式应用设计,AI开发工具品类又非常庞杂,而MCU的RAM、Flash资源及CPU算力通常都非常受限,如何选择合适的AI模型和开发工具用来开发出解决特定场景问题模型,又如何将AI模型部署到受限资源的MCU上,这是一个复杂的工程。
海思A²MCU嵌入式AI通过哪些关键威廉希尔官方网站 解决了这些问题?
海思嵌入式AI提供了超轻量级的AI威廉希尔官方网站 框架、极致性能完全满足MCU的推理要求、并能够将多模型快速转换为代码并导入工程,开发者进行方便快速的产品部署。
1)极简框架:在MCU上部署的AI模型,转为网络层的运行代码后,直接调用RISC-V核的优化算子库,省去了模型解析器等一般复杂的框架。RISC-V的开源架构支持自定义指令集,能够更好的支持算子库的优化实现,这也是RISC-V相对于其他内核的一个关键优势。
2)极致性能:意味着在确保场景收益的前提下,将训练推理过程做到极简。包括但不限于:训练模型优化:包括模型结构优化,减少内存读写和计算量;模型训练后量化,使模型更小,推理更快。算子的轻量化、内存优化以及深度性能调优:通过算子库轻量化、算子数据预重排与内存复用、使用算法减少乘法运算次数与内存访问的开销、深度算法调优减少运算次数,与访存开销进行平衡。
模型剪枝、压缩的轻量化
训练后量化,模型更小,推理更快
3)易开发部署:海思A²MCU嵌入式AI方案可提供多种模型的转换,例如通过TensorFlow Lite、PyTorch、MindSpore等开发的模型,可快速便捷的转成代码,并导入部署到工程代码中。
海思A²MCU嵌入式AI应用效果如何?
12月10日,在TCL小蓝翼P7新风空调发布会上,海思与TCL空调联合发布了“A²MCU,让空调越用越节能”解决方案,该方案基于空调环境、运行和目标参数,通过嵌入式AI算法对复杂工况进行学习,提高运行周期内的整体能效。通过业务场景和AI强化学习模型的深度融合,给空调产品的节能带来代级的差异化竞争力,最终达成调温阶段能耗降低16%的效果。
结语
万物智能时代,我们既需要云端大算力的训练推理,也离不开嵌入式AI在千行百业的端侧普惠应用。相对而言AI服务器的体量是百万~千万数量级,而小算力的MCU则是数百亿数量级,嵌入式AI在绿色节能、人机交互、故障预测、安全防护等行业显示出巨大的潜力。
在嵌入式AI威廉希尔官方网站 中,AI和MCU的关系是相互促进、共同发展的,而嵌入式AI的难度也恰恰来自AI与MCU两个威廉希尔官方网站 分方向的跨界与结合。海思在AI和MCU领域都有近十年的积累和丰富应用经验,致力于将以往经验和威廉希尔官方网站 积累应用于小算力AI场景,和行业伙伴一起联合创新、创造增量价值。
审核编辑:刘清
-
mcu
+关注
关注
146文章
17077浏览量
350730 -
嵌入式
+关注
关注
5081文章
19073浏览量
304317 -
RISC-V
+关注
关注
44文章
2254浏览量
46097
发布评论请先 登录
相关推荐
评论