英特尔开发的 FPGA AI 套件旨在减少使用英特尔 CPU、英特尔 SoC FPGA 和英特尔 FPGA 创建功能强大的异构 AI 深度学习 (DL) 推理系统所需的工作量。
该套件支持 FPGA 设计人员、机器学习工程师和软件开发人员高效创建和优化 AI 推理平台,以达到性能、功耗和成本俱佳的目标。
英特尔 FPGA AI 套件中集成的实用程序加快了基于 FPGA 的 AI 推理引擎的开发速度。数据科学家和工程师可以从任何熟悉的行业框架(如 TensorFlow 和 PyTorch)开始训练和收敛推理模型,然后可以使用英特尔 分发版 OpenVINO 工具包通过简化逻辑和降低内存占用率来优化推理模型的性能和功耗。
请注意,该优化是在 CPU 和 FPGA 的异构组合中执行的。随后,英特尔 FPGA AI 套件会进一步优化最终设计的 FPGA 部分。经优化的设计会使用英特尔 Quartus Prime 软件直接输入到强大且经过验证的 FPGA 开发流程中。
Stryker公司的研发团队在评估英特尔FPGA AI 套件后得出以下结论:
●英特尔 FPGA AI 套件和 OpenVINO 工具包非常易用。借助这些工具, Stryker 能够开发出更为优化的用于深度学习推理的 FPGA IP。该推理 IP 已使用英特尔QuartusPrime 软件成功集成到了英特尔 FPGA 中。与套件一起提供的设计示例也使团队能够快速评估不同图像源的不同算法。
●英特尔 FPGA AI 套件和 OpenVINO 工具包使数据科学家和 FPGA 工程师能够无缝协作,为医疗应用开发更好的深度学习推理模型。
您可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件开发推理系统,服务于从 DL 增强型嵌入式系统一直到在多个 FPGA 加速的服务器上运行的高级数据中心应用工作负载。
如果您想开发用于检测、分类、分割或相关任务的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特尔 FPGA AI 套件来实现;如果您想在使用 FPGA 编码或解码视频或者在处理计算机视觉图像的同时有效传输视频流,也可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件。可以说,FPGA 特别适合这种预处理和后处理。
如果您没有自己的推理模型供训练使用,但又迫不及待地想涉足深度学习领域,可以利用英特尔 分发版 OpenVINO 工具包,因为工具包中有面向广泛使用的神经网络的预训练推理模型,您可以先从这些模型入手。
图1 显示的是基于这套工具的推理系统开发流程。
图1 英特尔 FPGA AI 套件开发流程
英特尔 FPGA AI 套件目前可支持英特尔 Agilex FPGA、英特尔 Cyclone 10 GX FPGA 和英特尔 Arria 10 FPGA,并提供了未来支持更多英特尔 FPGA 的路线图。当然,这些工具背后还有很多英特尔的在线支持。
审核编辑 :李倩
-
FPGA
+关注
关注
1628文章
21701浏览量
602607 -
英特尔
+关注
关注
61文章
9934浏览量
171628 -
机器学习
+关注
关注
66文章
8392浏览量
132509
原文标题:解析丨英特尔® FPGA AI 套件搭配 OpenVINO™ 工具包,助力创建异构推理系统
文章出处:【微信号:英特尔FPGA,微信公众号:英特尔FPGA】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论