完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
交叉编译在完成模型的量化构建后,就能够在目标硬件平台OK3576上实现模型的推理功能了。 板端推理的示例代码位于 首先,需要修改
在完成
文件拷贝随后,将
构建完成后, 确认文件传输无误后,就可以在开发板上执行推理过程了。 执行推理首先,确保将存放
接下来,由于系统对可打开文件的最大数量有限制,直接运行
最后,执行
通过以上步骤,即可在开发板上正常启动推理任务。执行结果如下: 可以看到模型能够正常进行推理,但是0.5B参数量的模型推理结果还差强人意。 |
|
相关推荐
|
|
只有小组成员才能发言,加入小组>>
【飞凌嵌入式OK3588J-C开发板体验】OK3588J-C开发板开箱评测
3115 浏览 1 评论
[威廉希尔官方网站 ] 【飞凌嵌入式OK3576-C开发板体验】llama2.c部署
7309 浏览 0 评论
7775 浏览 0 评论
【飞凌嵌入式OK3576-C开发板体验】ssh连接与文件传输
7699 浏览 0 评论
9143 浏览 0 评论
6813浏览 2评论
11227浏览 1评论
5310浏览 1评论
85564浏览 1评论
682浏览 1评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-12-23 08:52 , Processed in 0.370843 second(s), Total 37, Slave 30 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号