0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA 支撑自动驾驶车端云端同步迈入高算力大模型时代

NVIDIA英伟达 来源:未知 2023-03-19 22:40 次阅读

我国汽车产业发展迅速,汽车智能化大势所趋,自动驾驶所需的算力需求高速增长。为了加速自动驾驶生态发展,阿里云自动驾驶加速器与行业领先的主机厂、投资机构携手,结合自身威廉希尔官方网站 、产品、业务资源,为自动驾驶创新企业提供多项支持。

3 月 10-11 日,NVIDIA 开发与威廉希尔官方网站 部门亚太区总经理李曦鹏应邀出席阿里云自动驾驶加速器第一次线下集结活动并发表主题演讲《NVIDIA支撑自动驾驶车端云端同步迈入高算力大模型时代》,演讲分享了自动驾驶领域 AI 的研发趋势和解决方案。

1cb857a6-c663-11ed-bfe3-dac502259ad0.png

NVIDIA 开发与威廉希尔官方网站 部门亚太区总经理李曦鹏

图片来源:阿里云自动驾驶加速器

以下为演讲内容:

自动驾驶需要通过大量的传感器获取环境信息,然后对这些数据进行处理和分析,而加速计算可以提供更快的数据处理速度和更高的精度。加速计算不仅对自动驾驶行业十分关键,也在数据处理、互联网和医疗等领域扮演着重要的角色,促进了这些行业的发展。

车端算力对于加速汽车智能化非常重要。作为自动驾驶链条的基础,车上的大算力芯片和解决方案是必不可少的。NVIDIA DRIVE 平台是全球最常用的自动驾驶平台之一,提供各种芯片和解决方案,包括车端、数据中心仿真解决方案。

安全是开发自动驾驶的第一要务,更大的算力可以提高安全性。NVIDIA 在 2022 年秋季 GTC 宣布的 NVIDIA DRIVE Thor SoC 车规级系统芯片,可实现最高 2000 TOPS AI 算力以及 2000 TFLOPS 浮点算力,可以在单个计算平台整合全车的智驾和座舱功能,为未来的算法和应用发展预留足够空间。

应用和算力需要相互匹配,并且算力的发展需要一定的超前性以留给算法和应用发展足够的空间。近年来,BEV 和 Transformer 在深度学习领域取得了出色的效果,并带来了很大的效率提升。但同时也对计算量提出了更高的要求,因此出现了一些革命性的威廉希尔官方网站 。

例如 Transformer Engine 和专门做 Transformer block 计算的威廉希尔官方网站 等。除了 BEV 和 Transformer,NVIDIA 也针对各种其它模型,与云服务合作伙伴在云端进行训练和预测加速。对于现代加速的集群,其运行应用类别非常多,包括仿真、AI、scientific AI、数字孪生、量子计算等等,而这些应用都是典型的加速计算集群的应用。

当前,硬件性能提升放缓,每年只有 1.1 倍左右,五年期望的 10 倍提升实际只有 2 倍,十年期望的100倍提升只有 4 倍。此时,如果使用加速计算,每年保持 1.6 倍的提速,将为工作负载提供充足算力,成为应对性能瓶颈的重要解决方案。同时,也需要注意到成本问题,包括单个晶体管价格逐年增加、能源消耗、机房建设、供电等问题,因此需要更多的加速计算来降低成本和提高效率。

在自动驾驶领域,NVIDIA 能够提供丰富的工具和解决方案,帮助用户完成AI模型端到端的流程。对于数据预处理,NVIDIA 可以提供结构化和非结构化数据的处理工具,还可以进行图像处理,确保训练和预测的一致性。在训练方面,NVIDIA 可以提供不同的框架,同时也会关注模型的推理。在云端部署时,NVIDIA 提供大规模部署的工具。

NVIDIA 相信未来 10 年内,所有计算任务都将被加速,而 NVIDIA 已经为此做好了准备。加速计算的特点和意义在于,可以提高工作效率、降低成本、提升用户体验,同时也推动产业信息化融合的发展。这些特点和意义决定了 NVIDIA 的工作方式,即与客户和合作伙伴深度合作,根据客户需求设计出最适合的解决方案,共同进步。

1d579bfe-c663-11ed-bfe3-dac502259ad0.png

加速计算的特点总结如下:

  • 性能数量级上的提升:加速计算可以使模型性能有数十倍甚至上百倍的提升。

  • 应用特异性:上层应用需要根据具体业务场景进行优化,没有一劳永逸的方法。

  • 找出瓶颈:需要从应用自上而下寻找性能瓶颈,然后加速这些瓶颈,以达到整体性能的提升。

  • 端到端的优化:AI 加速器算法的核心是优化,端到端的优化需要软件协同设计,需要业务、算法、工程人员和优化工程师共同配合。

自动驾驶软件产品研发特点如下三点:

  • 第一,自动驾驶的端到端开发需要加速数据模型的流转,并让数据信息充分利用。例如在车端采集数据,需要对这些数据进行高效的利用,在云端进行自动打标或者模型训练、数据推理等过程,让数据从采集到被利用整个过程尽可能快。

  • 第二,云端的训练、预测,车端的验证和部署需要保持模型和数据的对齐。不同的训练框架、预处理库和数据处理方式会导致模型和数据不对齐,因此需要将整个过程自动化起来并做到统一管理。

  • 第三,如果车端和云端的算力出现问题时,需要设计更多创新性的大模型来解决实际的问题。

在云上,自动驾驶应用需要处理大量数据的采集、管理和筛选,数据管理包括人工和自动打标,还需进行模型训练和 REPLAY 验证。如果采集车数量够多,数据采集的长尾效应可以减少单辆车的数据量,但考虑到量产车的数量,数据处理必须更智能、高效。这已然成为自动驾驶企业的共识,而 NVIDIA 也将与云服务合作伙伴,结合在其他行业卓有成效的经验和成果,帮助企业落地相关能力。

总的来说,AI 加速计算可以大幅提升自动驾驶应用的性能,但对于不同的应用场景需要采用特定的方法进行优化。例如在视觉计算领域,Swin-transformer 模型在自驾行业有很好的应用场景,并且训练吞吐可以提高 2.3 倍,从而降低训练时间,提高模型验证和上线速度。

另外,CV-CUDA 开源库是一个通用的高性能图像处理加速库,适用于不同行业的 AI 成像前后处理,目前已经被短视频行业、自动驾驶行业和地图行业等多个领域广泛采用。仅就前处理而言,就可以减少训练和预测中调试工作量,提升模型对齐效果,提升工作效率。

1d6f2206-c663-11ed-bfe3-dac502259ad0.png

加速计算需要软硬协同设计,仅依靠单一优化手段,很难达到效果,需要尽可能自上而下得去加速更多环节。AI 的核心是加速,而加速的核心是优化,这需要算法和优化工程师配合完成。

在自动驾驶领域,NVIDIA 将与云服务合作伙伴,依托其他领域的成功经验和成果,为车企和自动驾驶企业,提供端到端的全栈式 AI 加速计算解决方案。

即刻点击 “阅读原文”扫描下方海报二维码,锁定 NVIDIA 创始人兼首席执行官黄仁勋的 GTC 主题演讲!北京时间 3 月 21 日 23:00 全球首播,3 月 22 日 10:00 中国重播。深度解读 NVIDIA 加速计算平台如何推动人工智能、元宇宙、云威廉希尔官方网站 和可持续计算的下一波浪潮。加入 GTC23,切勿错过 AI 的决定性时刻!


原文标题:NVIDIA 支撑自动驾驶车端云端同步迈入高算力大模型时代

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3772

    浏览量

    91004
  • 大模型
    +关注

    关注

    2

    文章

    2431

    浏览量

    2651

原文标题:NVIDIA 支撑自动驾驶车端云端同步迈入高算力大模型时代

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    连接视觉语言大模型自动驾驶

    自动驾驶在大规模驾驶数据上训练,展现出很强的决策规划能力,但是面对复杂罕见的驾驶场景,依然存在局限性,这是因为
    的头像 发表于 11-07 15:15 231次阅读
    连接视觉语言大<b class='flag-5'>模型</b>与<b class='flag-5'>端</b>到<b class='flag-5'>端</b><b class='flag-5'>自动驾驶</b>

    使用PVA引擎优化自动驾驶汽车CV开发流水线

    在汽车软件开发领域,越来越多的大规模 AI 模型被集成到自动驾驶汽车中,这些模型的范围从视觉 AI 模型到用于自动驾驶
    的头像 发表于 11-05 14:17 312次阅读
    使用PVA引擎优化<b class='flag-5'>自动驾驶</b>汽车CV开发流水线

    Waymo利用谷歌Gemini大模型,研发端到自动驾驶系统

    迈新步,为其机器人出租车业务引入了一种基于谷歌多模态大语言模型(MLLM)“Gemini”的全新训练模型——“多模态自动驾驶
    的头像 发表于 10-31 16:55 1052次阅读

    智能驾驶自动驾驶的关系

    驾驶的威廉希尔官方网站 。 智能驾驶包含“单车”智能驾驶和“协作式”智能驾驶。前者通过摄像头、雷达等传感器以及高效准确的算法,赋予车辆自动驾驶的能力;后者
    的头像 发表于 10-23 16:02 648次阅读

    NVIDIA Research自动驾驶模型引领国际挑战赛

    NVIDIA 在国际计算机视觉与模式识别会议(CVPR)上展示了用于自动驾驶汽车开发的加速计算和生成式 AI 的突破威廉希尔官方网站 。
    的头像 发表于 09-09 10:11 510次阅读

    模型时代需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型,以及相关的稳定性和性能
    发表于 08-20 09:04

    实现自动驾驶,唯有

    ,去年行业主流方案还是轻精地图城区智驾,今年大家的目标都瞄到了(End-to-End, E2E)。作为一种新兴的威廉希尔官方网站 路径,逐渐
    的头像 发表于 08-12 09:14 723次阅读
    实现<b class='flag-5'>自动驾驶</b>,唯有<b class='flag-5'>端</b>到<b class='flag-5'>端</b>?

    FPGA在自动驾驶领域有哪些优势?

    FPGA(Field-Programmable Gate Array,现场可编程门阵列)在自动驾驶领域具有显著的优势,这些优势使得FPGA成为自动驾驶威廉希尔官方网站 中不可或缺的一部分。以下是FPGA在自动驾驶
    发表于 07-29 17:11

    FPGA在自动驾驶领域有哪些应用?

    FPGA(Field-Programmable Gate Array,现场可编程门阵列)在自动驾驶领域具有广泛的应用,其高性能、可配置性、低功耗和低延迟等特点为自动驾驶的实现提供了强有力的支持。以下
    发表于 07-29 17:09

    浪潮信息携手天府云数据科技推出了42kW智风冷

    不仅标志着我国智基础设施迈入了全新的高密度、高效能时代,更为人工智能、自动驾驶、生物制药、AIGC(人工智能生成内容)及智能制造等多个前沿领域提供了强有力的
    的头像 发表于 07-15 16:18 657次阅读

    自动驾驶迈向3.0时代企争抢城市无图NOA,大模型到端方案加速迭代

    电子发烧友网报道(文/莫婷婷)汽车智能化推动了“软件定义汽车”,自动驾驶同步进入了由软件驱动的2.0时代。发展至今,自动驾驶市场开始迈进3.0时代
    的头像 发表于 06-08 00:06 7357次阅读

    未来已来,多传感器融合感知是自动驾驶破局的关键

    /L4级自动驾驶赛跑的元年。 马斯克评论FSD 12.3版本的左转弯操作就像人类司机一样。如果FSD 12.3版本成功,将基本颠覆目前市场上的智能驾驶威廉希尔官方网站 路线。基于“数据/算法/
    发表于 04-11 10:26

    边缘计算与自动驾驶系统如何结合

    当前自动驾驶中,大规模的人工智能算法模型和大规模数据集中化分析均放在云端进行。因为,云端拥有大量的计算资源,可以在极短的时间内完成数据的处理,但是仅依靠
    发表于 03-25 09:26 542次阅读
    边缘计算与<b class='flag-5'>自动驾驶</b>系统如何结合

    自动驾驶已成现实?赛思时间同步服务器赋能北京市高级别自动驾驶示范区,为自动驾驶提供中国方案

    赛思时间同步服务器赋能全球首个“路云一体化”高级别自动驾驶示范区,为自动驾驶提供中国方案!北京市高级别自动驾驶示范区的“中枢神经”-云控基
    的头像 发表于 03-22 09:30 1052次阅读
    <b class='flag-5'>自动驾驶</b>已成现实?赛思时间<b class='flag-5'>同步</b>服务器赋能北京市高级别<b class='flag-5'>自动驾驶</b>示范区,为<b class='flag-5'>自动驾驶</b>提供中国方案

    英伟达:四家中国企选其自动驾驶芯片平台

    据英伟达透露,理想汽车已选定搭载两颗DRIVE Orin处理器且具备508TOPSNVIDIA DRIVE Thor车载计算机,进而实现实时融合各类传感器采集的信息,推动高级辅助驾驶
    的头像 发表于 01-09 09:21 973次阅读