0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AWS与NVIDIA通过嵌入式AI简化构建应用程序

姚小熊27 来源:TechWeb.com.cn 作者:TechWeb.com.cn 2020-12-25 10:26 次阅读

人工智能改变了我们的生活和工作方式,主要的AI供应商之一是图形处理单元(GPU)市场领导者NVIDIA。开发人员使用其工具和基础架构来构建支持AI的应用程序。该公司提供的产品可简化将AI集成到服务中的过程,这些服务包括语音识别,对话式AI,数据科学,机器人威廉希尔官方网站 ,推理等等。

NVIDIA工具已被AI开发人员和数据科学家广泛采用,但是将这些工具的使用扩展到更广泛的受众范围将需要简化工具的访问过程。如今,开发人员需要在一个平台(例如AWS)上构建,然后直接从NVIDIA访问AI工具。

AWS与NVIDIA合作伙伴通过嵌入式AI简化构建应用程序

最近,NVIDIA与亚马逊网络服务(AWS)通过在AWS Marketplace中提供NVIDIA店面,宣布了一项合作伙伴关系,旨在简化将AI功能嵌入应用程序的过程。总计,NVIDIA将免费提供21种软件工具,以帮助使用AWS的开发人员构建GPU加速的AI应用程序。这将在医疗保健,金融,零售,智慧城市等多个领域引起广泛关注。

自2017年以来,NVIDIA一直通过其NVIDIA GPU优化云(NGC)目录以及AWS Marketplace上的一些单独组件提供了GPU加速软件。但是,这是Nvidia的整个产品组合首次进入AWS Marketplace。NGC目录将NVIDIA的GPU加速软件工具集中在一起。它包含数百个机器学习(ML)框架和行业特定的软件开发套件,数据科学家和开发人员可以使用它们来构建AI解决方案。

伙伴关系创建了“一站式商店”

NGC软件经过容器化和优化,可在GPU云实例上运行,例如Amazon EC2 P4d,该实例由NVIDIA最新的A100 Tensor Core GPU提供支持。开发人员可以通过现成的程序包获得所需的一切,因此他们可以在混合云环境中运行容器,并轻松地跨平台移动GPU加速的工作负载。

NVIDIA声称250,000名用户已经从NGC目录中下载了超过100万个AI容器,预训练的模型,应用程序框架,Helm图表和其他ML资源。一些最受欢迎的NVIDIA GPU加速AI软件工具包括:

NVIDIA AI,一套框架和工具,例如MXNet和TensorFlow

NVIDIA Clara Imaging,一个针对领域优化的应用程序框架,用于医学成像中的深度学习培训和推理。

NVIDIA DeepStream SDK,一个用于在边缘和任何云上部署的多平台视频分析框架。

NVIDIA HPC SDK,一套用于高性能计算的库和软件工具。

NVIDIA Isaac Sim ML培训,这是面向机器人ML工程师的工具包,这些机器人ML工程师生成合成图像以训练对象检测深度神经网络

NVIDIA Merlin,一个开放的beta框架,用于构建大规模的深度学习推荐系统。

NVIDIA NeMo,一个用于构建对话AI模型的开源Python工具包。

RAPIDS,一套开源数据科学软件库。

通过与AWS的合作,NVIDIA希望加快软件发现的过程。只要NGC目录中有更新,开发人员就可以一键访问NVIDIA AI软件的最新版本。开发人员的另一个好处是软件部署更加简单。开发人员将能够在AWS控制台内的NVIDIA GPU实例上订阅并开始运行NGC软件。他们还可以访问NGC Helm图表以进行持续集成和开发。

随着AI推动高性能计算的突破,高级工具对于帮助组织可视化并与海量数据集进行交互是必不可少的。像NVIDIA和AWS这样的联盟可以消除部署GPU加速软件的复杂性。现在,开发人员无需花时间搜索最新的框架和补丁,而是可以在一个地方访问所有资源来构建,培训和部署AI应用。
责任编辑:YYX

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4981

    浏览量

    103000
  • AI
    AI
    +关注

    关注

    87

    文章

    30763

    浏览量

    268917
  • AWS
    AWS
    +关注

    关注

    0

    文章

    432

    浏览量

    24356
  • 嵌入式AI
    +关注

    关注

    0

    文章

    34

    浏览量

    829
收藏 人收藏

    评论

    相关推荐

    嵌入式MXM模块(NVIDIA安培架构)

    电子发烧友网站提供《嵌入式MXM模块(NVIDIA安培架构).pdf》资料免费下载
    发表于 10-09 11:09 0次下载

    嵌入式系统的启动流程

    嵌入式系统的启动流程是一个复杂但有序的过程,它涉及从系统上电到操作系统内核及应用程序启动的多个阶段。
    的头像 发表于 10-05 17:44 361次阅读

    C28x嵌入式应用程序二进制接口

    电子发烧友网站提供《C28x嵌入式应用程序二进制接口.pdf》资料免费下载
    发表于 08-31 09:39 0次下载
    C28x<b class='flag-5'>嵌入式</b><b class='flag-5'>应用程序</b>二进制接口

    MSP430嵌入式应用程序二进制接口

    电子发烧友网站提供《MSP430嵌入式应用程序二进制接口.pdf》资料免费下载
    发表于 08-30 11:43 0次下载
    MSP430<b class='flag-5'>嵌入式</b><b class='flag-5'>应用程序</b>二进制接口

    C6000嵌入式应用程序二进制接口

    电子发烧友网站提供《C6000嵌入式应用程序二进制接口.pdf》资料免费下载
    发表于 08-29 14:52 0次下载
    C6000<b class='flag-5'>嵌入式</b><b class='flag-5'>应用程序</b>二进制接口

    AI普及给嵌入式设计人员带来新挑战

    。   从监控和访问控制到智能工厂和预测性维护,基于机器学习(ML)模型构建的人工智能(AI)在工业物联网边缘处理应用中已变得无处不在。随着这种普及,支持AI的解决方案的构建已经变得“
    发表于 08-22 14:20 663次阅读
    <b class='flag-5'>AI</b>普及给<b class='flag-5'>嵌入式</b>设计人员带来新挑战

    嵌入式系统中的实时操作系统

    嵌入式RTOS是嵌入式应用程序运行、相互交互和与外界通信的底层软件机制。在本节中,您将了解嵌入式软件开发人员使用哪些流行RTOS以及它们运行的嵌入式
    的头像 发表于 08-20 11:28 485次阅读

    嵌入式软件开发与AI整合

    嵌入式软件开发与AI整合是当前威廉希尔官方网站 发展的重要趋势之一。随着人工智能威廉希尔官方网站 的快速发展,嵌入式系统越来越多地集成了AI算法,以实现更复杂的智能功能。以下是关于
    的头像 发表于 07-31 09:25 701次阅读
    <b class='flag-5'>嵌入式</b>软件开发与<b class='flag-5'>AI</b>整合

    基于AMD、ARM、Intel和NVIDIA威廉希尔官方网站 构建嵌入式工控机

    嵌入式工控机具有高度可定制性,可以满足所有行业的所有边缘计算任务。在AMD、ARM、Intel和NVIDIA等领先威廉希尔官方网站 公司的支持下,我们拥有适用于所有工业应用的全系列经过预审的嵌入式工控机。朗锐智科
    的头像 发表于 05-22 17:13 543次阅读
    基于AMD、ARM、Intel和<b class='flag-5'>NVIDIA</b>威廉希尔官方网站
<b class='flag-5'>构建</b>的<b class='flag-5'>嵌入式</b>工控机

    NVIDIA AI微服务现已与AWS集成,加速药物研发和数字医疗

    NVIDIA NIM 使数千家使用 AWS 的医疗和生命科学公司能够快速、轻松开发和部署生成 AI
    的头像 发表于 05-09 09:21 1551次阅读

    使用Redis和Spring Ai构建rag应用程序

    整合如何通过简化的开发流程,让开发者能够更专注于创新而非底层实现。一、SpringAI简介由大型语言模型(LLM)驱动的应用程序中,向量数据库常作为人工智能应用程
    的头像 发表于 04-29 08:04 1030次阅读
    使用Redis和Spring <b class='flag-5'>Ai</b><b class='flag-5'>构建</b>rag<b class='flag-5'>应用程序</b>

    深度详解嵌入式系统专用轻量级框架设计

    MR 框架是专为嵌入式系统设计的轻量级框架。充分考虑了嵌入式系统在资源和性能方面的需求。通过提供标准化的设备管理接口,极大简化嵌入式应用开
    发表于 04-27 02:32 984次阅读
    深度详解<b class='flag-5'>嵌入式</b>系统专用轻量级框架设计

    再谈嵌入式实时操作系统

    由于嵌入式处理器早期功能单一且运算能力不高,嵌入式应用已不能满足各个领域不断增长的需求。嵌入式操作系统应运而生,嵌入式操作系统可以支持新时代复杂、多任务环境和功能的
    的头像 发表于 04-09 17:27 791次阅读
    再谈<b class='flag-5'>嵌入式</b>实时操作系统

    NVIDIA数字人威廉希尔官方网站 加速部署生成AI驱动的游戏角色

    NVIDIA 在 GDC 2024 大会上宣布,Inworld AI 等领先的 AI 应用程序开发者,正在使用 NVIDIA 数字人威廉希尔官方网站 加速
    的头像 发表于 04-09 10:08 663次阅读
    <b class='flag-5'>NVIDIA</b>数字人威廉希尔官方网站
加速部署生成<b class='flag-5'>式</b><b class='flag-5'>AI</b>驱动的游戏角色

    NVIDIA Jetson为嵌入式计算领域探索AI可能

    自动化业务流程、通过数据分析获得洞察力、与客户和员工互动……如今 AI 正在大幅提高生产力,推动竞争优势。NVIDIA Jetson 是适用于自主机器和其他嵌入式应用的先进平台,具有出
    的头像 发表于 01-25 17:03 530次阅读
    <b class='flag-5'>NVIDIA</b> Jetson为<b class='flag-5'>嵌入式</b>计算领域探索<b class='flag-5'>AI</b>可能