0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智能座舱大模型,混合算力还是全靠端侧输出

E4Life 来源:电子发烧友 作者:周凯扬 2024-03-26 01:19 次阅读

电子发烧友网报道(文/周凯扬)除了传统的LLM模型外,不少垂直领域的大模型也在飞速发展,尤其是在汽车领域,越来越多的车企开始考虑在车内引入AI大模型。如今汽车此前由于车端算力的限制,大模型很难运行在智能座舱上,而全程联网跑的座舱大模型在使用体验上又有所欠缺。然而,随着新一代智能汽车算力硬件纷纷进入下一阶段,如今智能座舱开始在新车型上铺开。

理想Mind GPT

去年年底,理想发布了最新的OTA 5.0版本,率先为Max车型升级了AD MAX 3.0智能驾驶。然而,这一次OTA还包括了最新的智能空间SS 3.0,为Max、Pro和Air车型正式引入了Mind GPT这一智能座舱多模态认知大模型。

理想从零构建了Mind GPT的原始基座模型,并采用了自研的TaskFormer神经网络架构,Mind GPT使得理想语音助手“理想同学”获得了听感和自行能力全面升级,并基于其重点场景,定制了111个领域、1000种以上的专属能力,比如理解语义、多语种交流、模糊感知和行程安排规划等。

从中文大模型排行榜C-Eval网站上可以看到,12月4日发布的Mind GPT在当时斩获了闭源模型第一的成绩。尽管随后被荣耀、海思和vivo的大模型超过,但Mind GPT目前依然以89.7的成绩高居第四的位置。

可以看出,理想Mind GPT对于硬件的要求并不算高,从理想分享的Mind GPT推理引擎来看,其推理负载被分配给了云端GPT和端侧的NPU,从而降低智能座舱的算力要求,使得更多老车型也可以享受到大模型的完整体验。

蔚来NOMI GPT

蔚来宣称NOMI GPT是业内首家纯端侧部署的多模态感知大模型,新的NOMI借由这一大模型,可以在无需联网的前提下识别数千种物体,且做到快速响应,还可以根据非颜色类磁珠,完成氛围灯的颜色组合。由于是纯端侧处理,NOMI GPT做到了车主隐私数据不出车,提高了信息安全性。

之所以能做到纯端侧,自然离不开计算硬件的支撑。2024款蔚来全系车型均将采用全新的中央计算平台ADAM,在智舱上搭载了高通最新的骁龙8295智能座舱芯片。在5nm工艺和架构优化下,8295相较上一代8155在性能上有了巨大的提升,除了通用计算与图形处理的CPUGPU算力分别翻了2倍和3倍外,用于AI计算的NPU算力也提升了8倍,达到了30TOPS。

除此之外,蔚来的ADAM通过系统级创新实现了舱驾融合,不仅可以拓展算力,更可以实现跨域算力共享。如此一来,类似NOMI GPT这样的多模大模型端侧部署,就可以调用来自智驾芯片Orin X的算力,从而提高CPU、GPU和NPU的使用效率。

写在最后

可以看出,理想和蔚来在智能座舱大模型上采用了不尽相同的策略,理想的Mind GPT主打让所有L系列车主都能享受到大模型的智能空间,而蔚来则是追求极致的硬件算力,把一切推理计算都留在端侧。这两种方式都各有优劣,未来随着更多车企跟进智能座舱大模型,我们届时将看到究竟何种威廉希尔官方网站 路线更受欢迎。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 智能汽车
    +关注

    关注

    30

    文章

    2852

    浏览量

    107271
  • 算力
    +关注

    关注

    1

    文章

    977

    浏览量

    14807
  • 智能座舱
    +关注

    关注

    4

    文章

    951

    浏览量

    16346
  • 大模型
    +关注

    关注

    2

    文章

    2447

    浏览量

    2696
收藏 人收藏

    评论

    相关推荐

    广和通开启AI新时代

    AI发展正酣,随着终端芯片算越来越高、模型能力越来越强、实时响应及隐私保护的应用需求增
    的头像 发表于 12-12 10:35 192次阅读

    讯飞星火模型发布

    参数量小、内存占比小的模型,正成为“兵家必争之地”。
    的头像 发表于 12-04 16:07 760次阅读

    智谱推出四个全新模型 携英特尔按下AI普及加速键

    /4.8B/2B参数量。两个的大语言模型适合意图理解、智能对话、文本创作、知识库问答等,两个
    的头像 发表于 12-02 17:13 209次阅读
    智谱推出四个全新<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>模型</b> 携英特尔按下AI普及加速键

    把握关键节点,美格智能持续推动AI规模化拓展

    当前,AI大模型走向已经是大势所趋,AI的发展将推动人工智能成为影响世界的第四次工业革命
    的头像 发表于 11-26 01:00 149次阅读
    把握关键节点,美格<b class='flag-5'>智能</b>持续推动<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI规模化拓展

    把握关键节点,美格智能持续推动AI规模化拓展

    当前,AI大模型走向已经是大势所趋,AI的发展将推动人工智能成为影响世界的第四次工业革命
    的头像 发表于 11-25 16:45 251次阅读
    把握关键节点,美格<b class='flag-5'>智能</b>持续推动<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI规模化拓展

    中科创达发开创智能新篇章

    生成式AI在创新和应用方面以前所未有的速度向前发展。融合云计算和边缘/计算的混合AI威廉希尔官方网站 , 正在加速推动人工智能的发展。
    的头像 发表于 11-17 11:23 485次阅读

    AI浪潮已来!炬芯科技发布新一代AI音频芯片,能效比和AI算大幅度提升

    AI音频芯片。   2028 年中小型模型AI市场迅速增长,威廉希尔官方网站 上有三大挑战   “近年来,
    的头像 发表于 11-06 09:11 2542次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b>AI浪潮已来!炬芯科技发布新一代<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI音频芯片,能效比和AI算<b class='flag-5'>力</b>大幅度提升

    比亚迪与OPPO携手推进智能座舱,探索车机+手机生态互联

    智能驾驶领域持续发后,比亚迪正着手强化其智能座舱生态体系。近日,比亚迪宣布与OPPO达成战略合作,共同探索手机与汽车的深度融合。这一举动标志着比亚迪在
    的头像 发表于 10-31 15:10 1129次阅读

    AI大模型智能座舱软件测试中的应用与思考

    背景下,AI大模型作为一种强大的工具,有望提升自动化测试效率、改善用户体验,进而推动整个行业的发展。 01 智能座舱软件测试现状 智能座舱
    的头像 发表于 10-28 16:49 279次阅读
    AI大<b class='flag-5'>模型</b>在<b class='flag-5'>智能</b><b class='flag-5'>座舱</b>软件测试中的应用与思考

    星河智联发布FLOW.源大模型座舱系统,引领智能出行新纪元

    智能网联汽车威廉希尔官方网站 日新月异的今天,星河智联正式推出了其智能座舱操作系统的最新代际产品——FLOW.源大模型座舱系统。这一创新成果不仅标志着星
    的头像 发表于 07-19 17:07 998次阅读

    基于AX650N/AX630C部署大语言模型Qwen2

    本文将分享如何将最新的大语言模型部署到超高性价比SoC上,向业界对模型部署的开发者提供
    的头像 发表于 07-06 17:43 3551次阅读
    基于AX650N/AX630C部署<b class='flag-5'>端</b><b class='flag-5'>侧</b>大语言<b class='flag-5'>模型</b>Qwen2

    云知声在边缘模型威廉希尔官方网站 探索和应用

    解决的课题。 2024高工智能汽车开发者大会暨舱驾智能与跨域论坛上,云知声智慧座舱解决方案中心总经理鲍晴峰以《边缘模型带来
    的头像 发表于 06-29 15:30 825次阅读

    商汤发布业内最快推理速度「日日新 5.0 模型

    现在,就是AI大模型应用的春天!
    的头像 发表于 04-29 10:32 581次阅读
    商汤发布业内最快推理速度「日日新 5.0 <b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>」

    2024年全球与中国7nm智能座舱芯片行业总体规模、主要企业国内外市场占有率及排名

    7nm智能座舱芯片市场报告主要研究: 7nm智能座舱芯片市场规模: 产能、产量、销售、产值、价格、成本、利润等 7nm智能
    发表于 03-16 14:52

    模型赋能智能座舱,带来全新体验升级

    据悉,E-Cockpit 8.0作为新一代“座舱”+“AI”的创新融合案例,采用无缝融合人工智能智能座舱元素的方式,引领新世代体验升级。该方案使用
    的头像 发表于 02-01 16:02 899次阅读