近两个月来,由于国际局势导致海思的芯片供应链出现问题,海思的安防芯片缺口逐渐扩大,从华南地区逐步扩散至其他城市,从高端型号延伸到中低端型号,价格一路飙涨,能否有持续稳定的货源成为了从业者的心头病。
算法模型迅速、高效化的工业化落地,是当前行业的面临的一大问题。原本学术界与工业界就存在较大 GAP,加上 NPU 芯片的突然兴起,说是为了提高工业界的效率,事实上很多常规的的学术界模型都较难快速部署到 NPU 芯片上。本质原因是芯片产品的迭代周期往往以年为计数单位,且NPU属于低可编程性ASIC芯片,很多NPU没有较完整的指令集,直接对寄存器进行操作;而学术界的各种 Operator 是以季度为单位在更新,因此模型算子不支持的问题在NPU部署场景预期会长期存在,现在业界对NPU部署很多基于较为传统的模型或者基于NPU可支持的操作选型模型。
为了解决AI边缘应用开发部署遇到的真实问题,OPEN AI LAB的边缘AI推理框架Tengine团队今年全力投入到赋能 AI 芯片的工作中,打通从算法到AI芯片部署的环节,助力解决开发者自行适配难、效率低、性能差的问题。
Tengine团队也在今年八月开始了对RV1109/RV1126的适配支持,目前Tengine已经完美适配 RV1109/RV1126 芯片。Tengine 对RV1109/1126的适配做到了算子级的封装调度,框架自动对底层算力资源进行调度,包括NPU、CPU用于神经网络推理以及2D图形加速用于神经网络图片前后处理。
责任编辑:YYX
-
神经网络
+关注
关注
42文章
4771浏览量
100751 -
AI芯片
+关注
关注
17文章
1886浏览量
35011 -
Tengine
+关注
关注
1文章
47浏览量
2846
发布评论请先 登录
相关推荐
亚马逊转向Trainium芯片,全力投入AI模型训练
苹芯科技亮相2024中国AI芯片开发者论坛
云端AI开发者工具怎么用
香橙派与昇思MindSpore合作提速,软硬结合助力开发者构建创新AI应用

AI驱动智慧未来,2024 TUYA全球开发者大会(中东)圆满落幕

Altera推出一系列FPGA软、硬件和开发工具
领航AI时代,涂鸦智能2024 TUYA开发者大会(苏州)即将震撼来袭

评论