0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

亚马逊将Alexa语音助手的部分计算任务转移到自主设计的芯片上

hl5C_deeptechch 来源:DeepTech深科技 作者:DeepTech深科技 2020-11-19 14:55 次阅读

芯片自研的趋势正愈演愈烈。

云服务巨头亚马逊最近发表声明称,计划将 Alexa 语音助手的部分计算任务转移到自主设计的定制设计芯片 Inferentia 上,以便加速任务的执行速度,同时降低成本。

这意味着亚马逊将减少对英伟达芯片的依赖。

当用户使用亚马逊 Echo 智能音箱呼叫 Alexa 语音助手时,语音数据将发送到数据中心的服务器上,然后再由 AI 系统分析和处理,以文本的形式生成反馈信息,最后再转换成 Alex 的语音,转达给用户。

在此之前,整套流程都是由英伟达芯片驱动的,但从今往后,亚马逊将逐步起用自家的 Inferentia 计算芯片。该芯片发布于 2018 年,专门为执行机器学习任务而定制设计,可以加速文本转语音、识别图像等任务的执行速度。

亚马逊官方介绍,AWS 云服务是使深度学习普及到普通开发者,并以低成本提供按需付费服务的顶尖基础架构。作为加速机器学习任务的定制芯片,Inferentia 是实现这一愿景的长期战略的一部分。

Inferentia 旨在在云端提供高性能推理,降低推理的总成本,配套的软件开发套件(SDK)可以方便开发人员将机器学习集成到其业务中。它的特点主要是高性能,低延迟和高灵活性。

每个 Inferentia 芯片的运算性能最高可达 128 TOPS,而现有的每个 EC2 Inf1 服务最多支持 16 个 Inferentia 芯片。芯片经过了特殊优化,以最大程度地提高小样本尺寸的吞吐量,这对于语音生成和搜索等对延迟要求很高的任务特别有用。

另一方面,Inferentia 拥有大量的片上内存,可用于缓存大型模型,而不是存储在芯片外。由于它的处理核心(又被称作神经核心)可以高速访问存储片上内存中的模型且不受片外存储器带宽限制,因此可以有效减少延迟对推理的重大影响。

亚马逊表示,将 Alexa 相关任务转移到 Inferentia 芯片,可以将延迟降低 25%,成本降低 30%。

亚马逊还强调,开发人员可以使用 TensorFlow,PyTorch 和 MXNet 等流行框架来训练模型,并使用 AWS Neuron SDK 轻松地将它们部署到云服务器上。Inferentia 支持 FP16,BF16 和 INT8 数据类型,还可以采用 32 位训练模型并使用 BFloat16 以 16 位模型的速度自动运行。

近年来,亚马逊,微软和谷歌等公司正在大力发展云计算服务,因此需要大量的数据中心和服务器西元,由此成为了最大的计算芯片客户。这种趋势推动了英伟达,AMD英特尔等公司加大了对计算芯片的研发力度,而且相关营收也不断增长。

但最近的趋势显示,越来越多的威廉希尔官方网站 公司正在尝试摆脱对传统芯片供应商的依赖,转向自主设计芯片的道路。比如苹果最近推出了搭载自研中央处理器 M1 芯片的 Mac 电脑

目前,亚马逊的云端面部识别服务 Rekognition 也已经已开始使用 Inferentia 芯片,但仍有大部分服务依赖于英伟达芯片。

责任编辑:xj

原文标题:告别英伟达,亚马逊计划将Alexa语音处理任务转移至自研芯片

文章出处:【微信公众号:DeepTech深科技】欢迎添加关注!文章转载请注明出处。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50756

    浏览量

    423354
  • 英伟达
    +关注

    关注

    22

    文章

    3772

    浏览量

    91019
  • 亚马逊
    +关注

    关注

    8

    文章

    2659

    浏览量

    83330
  • Alexa
    +关注

    关注

    2

    文章

    196

    浏览量

    23305

原文标题:告别英伟达,亚马逊计划将Alexa语音处理任务转移至自研芯片

文章出处:【微信号:deeptechchina,微信公众号:deeptechchina】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    亚马逊基于人工智能的Alexa发布计划延期至明年

    11月1日外媒报道称,亚马逊已将基于人工智能威廉希尔官方网站 全新打造的正版Alexa发布计划延期至明年。   亚马逊最初于去年9月公开了新版Alexa的规划,意在通过集成AI大模型,显著增强
    的头像 发表于 11-01 15:19 530次阅读

    CSP LED切割前如何转移到UV膜

    倒装芯片底部与高温胶膜接触,封装后如何芯片底部与高温膜分离,然后转移到UV膜
    发表于 10-29 23:23

    Orin芯片与边缘计算结合

    随着人工智能威廉希尔官方网站 的飞速发展,边缘计算作为一项关键威廉希尔官方网站 ,正在逐渐改变我们的生活和工作方式。边缘计算的核心思想是数据处理和分析任务从云端转移到
    的头像 发表于 10-27 16:51 752次阅读

    OpenAI向部分用户推出ChatGPT语音助手

    据智通财经APP报道,OpenAI正在为其部分尊贵的用户们精心呈现备受瞩目的ChatGPT语音助手,尽管此款助手原定于今年6月底的发布因为可能存在的安全隐患问题而被暂时搁置。
    的头像 发表于 07-31 15:41 468次阅读

    今日看点丨谷歌Tensor G5芯片的代工合作伙伴从三星转移到台积电;传极星汽车裁员约 30%,成都工厂关停

    1. 谷歌Tensor G5 芯片的代工合作伙伴从三星转移到台积电   三星电子去年赢得谷歌Tensor G4订单,曾有望缩小与台积电在晶圆代工领域的差距。然而,最近的事态发展表明谷歌的战略正在
    发表于 07-08 10:56 545次阅读

    亚马逊语音助手的竞赛中上远远落后

    Intelligence”驱动的Siri之后,《财富》杂志的一份新报告表明,亚马逊Alexa——可以说是目前最有能力的语音助手——正在努力进行自己的人工智能改造: …《财富》杂志采
    的头像 发表于 06-18 16:54 1322次阅读

    如何PSoC4000部件的设计过渡到PSoC4000T部件?

    。 PSoC4000T 部件仅支持 ModusToolbox。 是否有办法 PSoC Creator 中的任何部分设计转移到 ModusToolbox 中?
    发表于 05-29 06:35

    亚马逊计划对Alexa进行人工智能改造

    亚马逊正忙于为其广受欢迎的Alexa智能助理进行威廉希尔官方网站 升级,此次的重点在于引入更先进的人工智能生成威廉希尔官方网站 ,旨在为用户提供更加自然、流畅的对话体验。据悉,这一新版本的Alexa将在今年晚些时候与公众见面。
    的头像 发表于 05-24 09:13 584次阅读

    如何用加载分散法软件中部分变量从内部RAM转移到外部RAM?

    如何用加载分散法软件中部分变量从内部RAM转移到外部RAM, 加载分散法文件怎么设置?堆和栈需要设置吗?
    发表于 05-10 07:52

    边缘计算的应用场景介绍(边缘计算在哪些领域能得到应用)

    边缘计算是世界的一项备受关注的新兴威廉希尔官方网站 ,并且在近年来迅速崛起得到了很多应用。边缘计算是什么?就是通过将计算和存储功能从云端转移到网络边缘,
    的头像 发表于 02-01 10:47 1076次阅读
    边缘<b class='flag-5'>计算</b>的应用场景介绍(边缘<b class='flag-5'>计算</b>在哪些领域能得到应用)

    智能语音助手在医疗行业的应用与挑战

    一、引言 随着人工智能威廉希尔官方网站 的不断发展,智能语音助手在医疗行业的应用越来越广泛。语音数据集在医疗智能语音助手中发挥着重要作用,为系统提供了丰富
    的头像 发表于 01-19 17:37 666次阅读

    智能语音助手在旅游行业的应用与挑战

    一、引言 随着人工智能威廉希尔官方网站 的不断发展和普及,智能语音助手在旅游行业的应用越来越广泛。语音数据集在旅游智能语音助手中发挥着重要作用,为系统提供
    的头像 发表于 01-19 17:30 798次阅读

    智能语音助手在教育行业的应用与挑战

    一、引言 随着人工智能威廉希尔官方网站 的不断发展,智能语音助手在教育行业的应用越来越广泛。语音数据集在教育智能语音助手中发挥着重要作用,为系统提供了丰富
    的头像 发表于 01-19 17:21 849次阅读

    智能语音助手在医疗行业的应用与挑战

    一、引言 随着人工智能威廉希尔官方网站 的不断发展,智能语音助手在医疗行业的应用越来越广泛。语音数据集在医疗智能语音助手中发挥着重要作用,为系统提供了丰富
    的头像 发表于 01-18 16:41 525次阅读

    语音数据集在智能语音助手中的应用与挑战

    一、引言 随着人工智能威廉希尔官方网站 的不断发展,智能语音助手已经成为了人们日常生活中不可或缺的一部分语音数据集在智能语音
    的头像 发表于 01-18 15:46 390次阅读