0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI大模型在端侧加速落地已成必然趋势,芯片厂商提前布局!

Carol Li 来源:电子发烧友网 作者:李弯弯 2023-12-29 00:47 次阅读

电子发烧友网报道(文/李弯弯)2023年对于AI行业来说可谓是非同寻常的一年,AI大模型的蓬勃发展带来新一轮威廉希尔官方网站 变革。在此背景下,AI产品创新、落地应用、商业模式探索成了业界探讨的重点话题,业界普遍认为,2024年AI大模型在商业应用会有极大突破。

“AI大模型在端侧的加速落地已成必然趋势。”在星宸科技上周举办的2023开发者大会暨产品发布会上,该公司董事长&总经理林永育谈到。事实确实如此,AI大模型如果想要实现大规模落地应用,离不开在端侧的部署。可以看到,过去近半年时间里,无论是算法芯片企业,还是终端设备厂商,都在尝试推动AI大模型在边缘/端侧的部署。

基于五大核心IP,持续对端侧AI战略布局

AI大模型时代,云边端深度协同发展很有必要。云端主要能够进行大模型训练,同时也能运行规模较大的模型,其特点是通用性强,成本高;端侧可以用于模型推理,在端侧可以运行小模型、低时延、低功耗任务,其特点是成本低、隐私安全,能够让AI应用更为个性化。林永育表示:“目前端侧产品面临着更新迭代,我们也在思考大模型的轻量化部署需求。”

wKgaomWNUnqALUWMAANkOpYTwD8371.jpg

星宸科技成立于2017年,专注于音视频处理芯片,产品覆盖IP Cam、USB Cam、NVR、DVR、车载电子、运动相机、智能家居机器人工业等领域。据其官网介绍,星宸科技在SoC设计全流程具有丰富经验,坚持主要IP自主研发,在图像信号处理(ISP),音视频编解码等领域具有领先优势,并积极投入人工智能等新领域芯片的研发。

林永育表示,在新趋势下,星宸科技过去几年高度聚焦视频音频、显示、连接、AI五大核心IP,未来将在更高性能、更低功耗、更先进制程、更易部署等领域持续演进。他强调,如果没有闭环的商业模式,没有特定的应用场景,算法、数据都无从谈起。未来星宸科技将基于五大核心IP,持续对端侧AI战略布局,加速AI普惠应用。

wKgZomWNUoKAaP4_AAPG_tAIEeI098.jpg


wKgaomWNUouAVaYqAAM9awhSjY8309.jpg


星宸科技的愿景是实现Leading AI Everywhere。可以看到,星宸科技在智慧视觉、智慧家庭、智慧办公、智慧出行、智慧教育、智慧商业等方面都有布局。比如智慧视觉的IP Camera、NVR、运动相机等;智慧家庭的智能影音娱乐终端、扫地机、家电显示控制、家居智能中控、智能门锁;智慧办公的会议摄像头、服务机器人、会议音频设备、会议大屏、PC摄像头、智能门禁等;智慧出行的智能后视镜、自主泊车、智能中控、ADAS、车内监控系统等。

wKgZomWNUpKAfDr9AANBxR1k3-E154.jpg

L2-L3 ADAS以及独立AI视觉场景将成为主力应用

车载市场是星宸科技重点布局的领域之一。当前,汽车智能化渗透率正在稳步提升,车载对于感知计算芯片的需求空间极大。星宸科技智慧车载产品线负责人唐本冰表示,未来5-8年,L2-L3 ADAS以及独立AI视觉场景将会成为主力应用。星宸科技针对此市场已经推出系列ADAS感知计算SOC芯片以及方案开发平台,在此次发布会上,星宸科技也发布了新一代的ADAS芯片及解决方案。

wKgaomWNUpmAEtb_AAQF5PCS9pU036.jpg

星宸科技在车载领域的规划,第一步是在车规智能感知芯片方面进行布局,第二步是功能安全ADAS,第三则是进行跨域布局。据该公司智慧车载产品线负责人唐本冰介绍,在一系列核心威廉希尔官方网站 支持下,2022年星宸科技已经发布并量产车规系列SAC8542、SAC8539,面向DVR、CMS、DMS、E-Mirror等场景,2023年发布并量产功能安全演进系列SAC8904、SAC8702等,面向ADAS、APA、行泊一体、DMS、AVM等场景,规划2024年及之后AD跨域处理器SAC8A20等,将逐步实现完整产品线三步走战略目标。

具体来看,在极致性价比的车载视觉感知计算场景中,星宸科技可以提供与各个细分场景匹配的芯片,如CMS/DMS/OMS:SAC8542/8902;DVR:SAC8539;E-Mirror:SAC8539/8902;APA:SAC8702;智能车灯:SAC8542;新国标:SAC8542。

在行泊舱感知计算一体化场景,同样有相应的芯片匹配各个应用。比如,行车场景中的ACC(自适应巡航)、LDW(车道偏离预警)、LKA(车道保持辅助)、TJA(交通拥堵辅助)、AEB(自动紧急制动)、NOA(领航系统),可以使用SAC8904+SAC8702、SAC8916、SAC8950。泊车场景中的APA/AVP(自动/自主泊车)可以使用SAC8904/89048702。座舱智能感知场景中的CMS(电子外后视镜)、DMS(驾驶员疲劳监测)、OMS(乘客监测)、IMS(车厢内检测),有SAC8702/SAC8542芯片可以匹配使用。

在发布会现场,唐本冰还同步分享了基于SAC8542的CMS架构、DMS/OMS+DVR架构,基于SAC8904的前视ADAS架构等创新方案。如下图:

wKgaomWNUqKAJucnAAPccq56fVY171.jpg
wKgaomWNUquARRwzAAOfg2wFlcI041.jpg
wKgaomWNUrSADynRAAOkm7uQ5xY781.jpg

星宸科技的车规产品已经通过GB/T 38892认证,具有丰富的外设适应能力、稳定可靠的SDK。唐本冰介绍说,公司车载芯片出货量已超千万,合作车企包括上汽集团、吉利、一汽大众、广汽本田、奇瑞、一汽奥迪等,公司未来将继续与产业链伙伴加大合作力度,加速实现汽车领域入门及腰部市场的差异化和智能化发展。

就如上文所言,星宸科技具备强大的核心IP自研能力,其自研的ISP已进化到第三代,自研IPU也针对行车智驾、自动泊车、座舱智能感知等汽车智能化应用进行计算效率优化,并将在下一代ADAS芯片支持BEV+Transformer等大网络模型高效率在腰部市场的落地应用。同时星宸科技还提供StarEngine自研算法工具链平台,以及开放式StarEngine解决方案SDK开发平台,与全产业链各环节合作伙伴和开发者一起构建高效的、差异化的汽车智能化功能。

wKgaomWNUruAV47tAAPIt-T47Ds723.jpg

写在最后

除了车载市场应用解决方案,此次大会,星宸科技也发布了面向智能机器人场景的全新解决方案。就智能机器人对行走、导航、避障、交互、连接、多融合感知、多任务执行、低功耗、高性价比等需求,星宸科技结合自身在CPU、IPU、MCU、PMU、ISP等领域的深厚积累,提出了多核异构、多传感融合、高能效算力智能机器人芯片解决方案。

总的来说,AI大模型在端侧的部署是必然趋势。可以预想,手机、PC、车载、机器人等终端设备未来都将能够看到大模型的应用。而所有这些的实现都离不开芯片的支持,就如专家们预计的那样,如果大模型的商业应用在2024年会迎来突破,那么芯片是不是也将迎来新一轮机会。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30538

    浏览量

    268745
  • AI大模型
    +关注

    关注

    0

    文章

    311

    浏览量

    302
收藏 人收藏

    评论

    相关推荐

    四大厂商业绩大涨背后,积极探索AI SoC芯片创新迭代

    电子产品的各个形态,这也为AI SoC芯片带来机会。   近日,多家布局
    的头像 发表于 08-27 01:28 4427次阅读
    四大<b class='flag-5'>厂商</b>业绩大涨背后,积极探索<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b> SoC<b class='flag-5'>芯片</b>创新迭代

    广和通开启AI新时代

    AI发展正酣,随着终端芯片算力越来越高、模型能力越来越强、实时响应及隐私保护的
    的头像 发表于 12-12 10:35 86次阅读

    智谱推出四个全新模型 携英特尔按下AI普及加速

    随着AI的发展,AI模型越来越受到广大客户及厂商的关注,业界领先的大
    的头像 发表于 12-02 17:13 170次阅读
    智谱推出四个全新<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>模型</b> 携英特尔按下<b class='flag-5'>AI</b>普及<b class='flag-5'>加速</b>键

    把握关键节点,美格智能持续推动AI规模化拓展

    将成为和系统同样重要的存在,如果说电路是连接身体的“血管”,那么AI就将成为终端的智慧“大脑”。加速演进大模型加速走向
    的头像 发表于 11-26 01:00 115次阅读
    把握关键节点,美格智能持续推动<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>规模化拓展

    把握关键节点,美格智能持续推动AI规模化拓展

    将成为和系统同样重要的存在,如果说电路是连接身体的“血管”,那么AI就将成为终端的智慧“大脑”。 ▶加速演进,大模型加速走向
    的头像 发表于 11-25 16:45 214次阅读
    把握关键节点,美格智能持续推动<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>规模化拓展

    AI浪潮已来!炬芯科技发布新一代AI音频芯片,能效比和AI算力大幅度提升

    电子发烧友原创 章鹰   11月5日,深圳会展中心7号馆内,炬芯科技董事长兼CEO周正宇博士带来了《AI芯片的未来》演讲,他对
    的头像 发表于 11-06 09:11 2376次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>浪潮已来!炬芯科技发布新一代<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>音频<b class='flag-5'>芯片</b>,能效比和<b class='flag-5'>AI</b>算力大幅度提升

    飞凌微CEO邵科:车载视觉处理新品助力智驾视觉系统升级,AI应用加速落地

    2024年,算力仍然是大模型持续迭代的根本动力,AI走向是大势所趋。咨询机构IDC今年7月发布最新预测,2024年全球
    的头像 发表于 10-31 01:17 5075次阅读
    飞凌微CEO邵科:车载视觉处理新品助力智驾视觉系统升级,<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>应用<b class='flag-5'>加速</b><b class='flag-5'>落地</b>

    能效比较GPGPU高一个数量级,国产AI芯片AI模型高质量落地

    的方案越来越多。也就是说,AI模型不仅完成了从“能用”到“好用”的蜕变,也从高高在上的云端,走到更靠近应用场景的边,这给作为方案核
    的头像 发表于 07-10 16:28 1841次阅读
    能效比较GPGPU高一个数量级,国产<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>让<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>高质量<b class='flag-5'>落地</b>

    后摩智能引领AI芯片革命,推出边模型AI芯片M30

    人工智能(AI)威廉希尔官方网站 飞速发展的今天,AI模型的部署需求正迅速从云端向和边缘
    的头像 发表于 06-28 15:13 662次阅读

    模型侧部署加速,都有哪些芯片可支持?

    小型化、场景化需求的增加,推理逐步从云端扩展向。这种趋势PC和手机等终端产品上尤为明显。   大模型
    的头像 发表于 05-24 00:14 4041次阅读

    商汤发布业内最快推理速度「日日新 5.0 模型

    现在,就是AI模型应用的春天!
    的头像 发表于 04-29 10:32 534次阅读
    商汤发布业内最快推理速度「日日新 5.0 <b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>」

    RISC-V厂商正在AI领域积极布局

    电子发烧友网报道(文/李弯弯)AI大浪潮的席卷下,越来越多具备多模态能力的AI模型加速涌现,AI
    的头像 发表于 04-09 00:13 4444次阅读
    RISC-V<b class='flag-5'>厂商</b>正在<b class='flag-5'>AI</b>领域积极<b class='flag-5'>布局</b>!

    NVIDIA加速识因智能AI模型落地应用方面的重要作用介绍

    本案例介绍了 NVIDIA 加速识因智能 AI模型落地应用方面的重要作用。生成式大模型已广
    的头像 发表于 03-29 15:28 605次阅读

    通义千问首次落地天玑9300移动平台!阿里云携手MediaTek探索AI智能体

    ,实现手机AI体验的大幅提升。这是通义大模型首次完成芯片级的软硬适配,仅依靠终端算力便能拥有极佳的推理性能及功耗表现,标志着Model-on-Chip的探索正式从验证走向商业化落地新阶
    发表于 03-28 10:51 243次阅读
    通义千问首次<b class='flag-5'>落地</b>天玑9300移动平台!阿里云携手MediaTek探索<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>智能体

    荣耀引领AI新时代

    今年的MWC盛会上,荣耀宣布与高通、Meta携手,将70亿参数大模型引入,这一创新举措预示着
    的头像 发表于 03-01 10:28 612次阅读