0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

触觉智能EVB3588实测运行大模型,效果nice!

触觉智能 2024-05-30 08:32 次阅读

开源鸿蒙硬件方案领跑者触觉智能

本文基于触觉智能IDO-EVB3588开发板,运行大模型。效果抢先看!

视频使用的主板采用瑞芯微RK3588处理器,是全新一代AloT高端应用芯片,采用8nm LP制程,搭载八核64位CPU,四核Cortex-A76和四核Cortex-A55架构,主频高达2.4GHz。

6TOPS AI算力,三核架构,支持int4/int8/int16/FP16/BF16/TF32;

支持H.265/H.264/AV1/VP9/AVS2视频解码, 最高8K60FPS;

支持 H.264/H.265视频编码, 最高8K30FPS;

支持HDMI2.1输出,最高8K@60Hz;

支持HDMI2.0 输入, 最高4K60FPS;

支持多摄像头输入;

双通道LVDS,支持到1080P@60Hz 大屏幕 ;

多屏异显;

两路独立的千兆以太网口,支持WAN口+LAN口 双IP ;

5G/4G/WIFI/蓝牙无线通信

板载4路USB3.0,2路全功能Type-C

丰富的系统支持, Android 12,Ubuntu,鸿蒙OpenHarmony全面支持。

2743aeb6-1e1c-11ef-bebc-92fbcf53809c.jpg

276071ea-1e1c-11ef-bebc-92fbcf53809c.jpg

1、运行在开发板上可以通过CPU直接部署运行模型,可以在终端中直接对话:

277c656c-1e1c-11ef-bebc-92fbcf53809c.png


视频效果如下所示:


CPU调用情况:

27afa3b4-1e1c-11ef-bebc-92fbcf53809c.png

同时,通过调整模型,可以在NPU上部署运行大模型,3588开发板的NPU拥有6T的算力,可以加速模型运行。运行qwen1.8b模型占用情况如下

27cf8d3c-1e1c-11ef-bebc-92fbcf53809c.png



2、网页调用模型API


模型部署后可以暴露API供其他应用使用,例如Web网页调用API接口实现对话功能。

27f432d6-1e1c-11ef-bebc-92fbcf53809c.png

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开发板
    +关注

    关注

    25

    文章

    5040

    浏览量

    97415
  • 触觉智能
    +关注

    关注

    1

    文章

    38

    浏览量

    309
  • 大模型
    +关注

    关注

    2

    文章

    2439

    浏览量

    2674
收藏 人收藏

    评论

    相关推荐

    瑞芯微平台Android系统串口测试方法,触觉智能RK3562开发板演示

    瑞芯微方案主板Android系统串口测试方法,通用RK3568、RK3566、RK3588、RK3576等。触觉智能RK3562开发板演示
    的头像 发表于 12-24 11:51 141次阅读
    瑞芯微平台Android系统串口测试方法,<b class='flag-5'>触觉</b><b class='flag-5'>智能</b>RK3562开发板演示

    瑞芯微主板/开发板Linux系统播放音频方法,触觉智能RK3562开发板演示

    本文介绍瑞芯微方案主板/开发板Linux系统播放音频的方法,触觉智能RK3562开发板演示,通用RK3566、RK3568、RK3588
    的头像 发表于 12-13 11:40 200次阅读
    瑞芯微主板/开发板Linux系统播放音频方法,<b class='flag-5'>触觉</b><b class='flag-5'>智能</b>RK3562开发板演示

    RK3588主板/开发板Android12系统APK签名文件生成的方法,干货满满

    本文介绍瑞芯微RK3588主板/开发板Android12系统下,APK签名文件生成方法。触觉智能RK3588开发板演示,音视频接口、通信接口等一应俱全,帮助企业提高产品开发效率,缩短上
    的头像 发表于 12-12 10:38 235次阅读
    RK<b class='flag-5'>3588</b>主板/开发板Android12系统APK签名文件生成的方法,干货满满

    工业级智能主机:EC-A3588JD4

    EC-A3588JD4人工智能主机,采用Rockchip旗舰级RK3588芯片,提供6TOPS算力,支持主流大模型私有化部署;支持外部看门狗,拥有工业级的稳定性,适用于ARMPC、边缘
    的头像 发表于 11-28 01:00 212次阅读
    工业级<b class='flag-5'>智能</b>主机:EC-A<b class='flag-5'>3588</b>JD4

    如何在Linux系统实现屏幕旋转?触觉智能RK3568鸿蒙开发板演示

    本文介绍Linux系统实现屏幕旋转的方法,以解决产品形态的不同的展现方式,触觉智能EVB3568鸿蒙开发板演示,现已发布全新OpenHarmony5.0 Release固件!
    的头像 发表于 11-19 23:42 288次阅读
    如何在Linux系统实现屏幕旋转?<b class='flag-5'>触觉</b><b class='flag-5'>智能</b>RK3568鸿蒙开发板演示

    触觉智能SOM3588S鸿蒙核心板现已上市,瑞芯微RK3588S八核,6T超高算力,丰富音视频接口!

    触觉智能SOM3588S鸿蒙核心板,搭载瑞芯微RK3588S芯片,采用4.5*5cm超小尺寸邮票孔+LGA封装,10层盲埋孔沉金工艺!内置八核64位CPU,Mali-G610四核GPU
    的头像 发表于 10-30 09:51 382次阅读
    <b class='flag-5'>触觉</b><b class='flag-5'>智能</b>SOM<b class='flag-5'>3588</b>S鸿蒙核心板现已上市,瑞芯微RK<b class='flag-5'>3588</b>S八核,6T超高算力,丰富音视频接口!

    DRV2625触觉效果组合设计

    电子发烧友网站提供《DRV2625触觉效果组合设计.pdf》资料免费下载
    发表于 09-27 09:32 0次下载
    DRV2625<b class='flag-5'>触觉</b><b class='flag-5'>效果</b>组合设计

    全志A133开发板安卓系统调试串口复用成普通串口方法-触觉智能EVB1309

    本文介绍了在开发板/主板串口接口不够的情况下,可将调试串口改为普通串口使用。基于触觉智能的全志A133开发板(型号EVB1309)演示,该主板高性能超低功耗,待机功耗低至15mW
    的头像 发表于 09-26 18:44 2144次阅读
    全志A133开发板安卓系统调试串口复用成普通串口方法-<b class='flag-5'>触觉</b><b class='flag-5'>智能</b><b class='flag-5'>EVB</b>1309

    瑞芯微RK3588开发板Linux系统添加自启动命令的方法,深圳触觉智能Arm嵌入式鸿蒙硬件方案商

    本文适用所有Linux系统的开发板、主板添加自启动命令的方法,本次使用了触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588旗舰芯片,深圳
    的头像 发表于 09-19 09:32 663次阅读
    瑞芯微RK<b class='flag-5'>3588</b>开发板Linux系统添加自启动命令的方法,深圳<b class='flag-5'>触觉</b><b class='flag-5'>智能</b>Arm嵌入式鸿蒙硬件方案商

    瑞芯微RK3566开发板USB OTG模式介绍及命令切换,触觉智能EVB3566主板鸿蒙硬件厂商

    本文USB OTG模式介绍及命令切换,适用于嵌入式工程师、硬件开发教程入门学习课程。设备为触觉智能开发的瑞芯微RK3566开发板,型号IDO-EVB3566,支持开源鸿蒙Openharmony、安卓Android、Linux的D
    的头像 发表于 09-05 17:01 1276次阅读
    瑞芯微RK3566开发板USB OTG模式介绍及命令切换,<b class='flag-5'>触觉</b><b class='flag-5'>智能</b><b class='flag-5'>EVB</b>3566主板鸿蒙硬件厂商

    基于RK3588的NPU案例分享!6T是真的强!

    、PyTorch、Caffe、MXNet等在人工智能开发中流行的深度学习框架,能够为开发者提供丰富的工具和库,使他们能够方便地进行模型训练和推理,可轻松应对各种大数据运算场景。RK3588 NPU典型工业
    发表于 07-17 10:55

    实测分享,瑞芯微RK3588八核国产处理器性能测评!确实“遥遥领先”!

    的图形处理,适用于需要高运算能力的工业自动化系统和工业物联网设备。 运动控制器:RK3588可提供精确的实时控制和数据处理能力,适用于各种运动控制应用。 医疗智能设备:RK3588可提供多路4K/8K
    发表于 07-17 10:49

    SBC3588主板发布,助力多个行业升级

    开源鸿蒙硬件方案领跑者触觉智能随着人工智能、物联网和自动驾驶等威廉希尔官方网站 的不断迭代,触觉智能全新推出基于RockchipRK
    的头像 发表于 06-29 08:33 759次阅读
    SBC<b class='flag-5'>3588</b>主板发布,助力多个行业升级

    快来看!公司新来的00后如何解决EVB3588摄像头曝光增益不生效问题

    介绍本文所用产品为触觉智能旗下的IDO-EVB3588-V1开发板。EVB3588是由瑞芯微最新旗舰SOC芯片RK3588设计的评估主板。R
    的头像 发表于 05-15 08:32 427次阅读
    快来看!公司新来的00后如何解决<b class='flag-5'>EVB3588</b>摄像头曝光增益不生效问题

    基于北京迅为iTOP-RK3588大语言模型部署测试

    基于北京迅为iTOP-RK3588大语言模型部署测试
    的头像 发表于 04-25 14:35 946次阅读
    基于北京迅为iTOP-RK<b class='flag-5'>3588</b>大语言<b class='flag-5'>模型</b>部署测试