0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

亚马逊,大力发展芯片

旺材芯片 来源:半导体芯闻 2023-08-14 13:33 次阅读

德克萨斯州奥斯汀市一栋没有标记的办公楼里,两个小房间里放着一些亚马逊产品员工设计两种类型的微芯片来训练和加速生成人工智能。这些定制芯片 Inferentia 和 Trainium 为 AWS 客户提供了在Nvidia上训练大型语言模型的替代方案,因为GPU 的采购变得越来越困难且昂贵。

亚马逊网络服务首席执行官 Adam Selipsky在 6 月份接受 CNBC 采访时表示:“全世界都希望有更多芯片用于生成人工智能,无论是 GPU 还是我们正在设计的亚马逊自己的芯片。” “我认为我们比地球上任何其他人都更有能力提供我们的客户共同需要的容量。”

然而,其他公司则采取了更快的行动,投入了更多资金,以从生成式人工智能热潮中获取业务。当OpenAI 在 11 月推出 ChatGPT时,微软

因托管病毒式聊天机器人以及据报道向 OpenAI 投资 130 亿美元而受到广泛关注。该公司很快将生成式人工智能模型添加到自己的产品中,并于二月份将其合并到 Bing 中。

同月,谷歌推出了自己的大型语言模型 Bard,随后向OpenAI 竞争对手 Anthropic 投资了 3 亿美元。

直到四月份,亚马逊才宣布推出自己的大型语言模型系列(名为 Titan),以及一项名为 Bedrock 的服务,以帮助开发人员使用生成式人工智能增强软件。

“亚马逊不习惯于追逐市场。亚马逊习惯于创造市场。我认为,很长一段时间以来,他们第一次发现自己处于不利地位,并且正在努力追赶,”Gartner 副总裁分析师Chirag Dekate 说。

Meta近还发布了自己的大模型Llama 2。开源的 ChatGPT 竞争对手现在可供人们在微软的 Azure 公共云上进行测试。

芯片是“真正的差异化”

Dekate 表示,从长远来看,亚马逊的定制芯片可以使其在生成人工智能领域占据优势。

“我认为真正的差异化在于他们所发挥的威廉希尔官方网站 能力,”他说。“你猜怎么着?微软没有 Trainium 或 Inferentia,”他说。

AWS 早在 2013 年就悄悄开始生产定制芯片,使用一种名为 Nitro 的专用硬件。它现在是销量最高的 AWS 芯片。亚马逊告诉 CNBC,每台 AWS 服务器都至少有一片,使用中的服务器总数超过 2000 万台。

2015年,亚马逊收购了以色列芯片初创公司Annapurna Labs。然后在 2018 年,亚马逊推出了基于 Arm 的服务器芯片 Graviton ,这是AMD英特尔等巨 x86 CPU 巨头的竞争对手。

“Arm 可能占服务器总销售额的个位数甚至 10%,其中很大一部分将来自亚马逊。因此,在 CPU 方面,他们做得相当好。”伯恩斯坦研究。

同样是在 2018 年,亚马逊推出了专注于 AI 的芯片。两年前,谷歌宣布推出首款张量处理器单元(TPU)。微软尚未宣布其正在开发的 Athena AI 芯片,据报道该芯片与 AMD 合作。

CNBC 参观了亚马逊位于德克萨斯州奥斯汀的芯片实验室,Trainium 和 Inferentia 就是在这里开发和测试的。产品副总裁 Matt Wood 解释了这两种芯片的用途。

机器学习分为这两个不同的阶段。因此,你训练机器学习模型,然后对这些经过训练的模型进行推理,”伍德说。“相对于在 AWS 上训练机器学习模型的任何其他方式,Trainium 的性价比提高了约 50%。”

继 2019 年发布 Inferentia(目前已是第二代)之后,Trainium 于 2021 年首次上市。

Inferentia 允许客户“提供非常非常低成本、高吞吐量、低延迟的机器学习推理,这是当您在生成人工智能模型中输入提示时的所有预测,所有这些都将被处理到给你回应,”伍德说。

然而,就目前而言,在训练模型方面,Nvidia 的 GPU 仍然是王者。7 月,AWS推出了由 Nvidia H100 支持的新型 AI 加速硬件。

Rasgon 表示:“Nvidia 芯片拥有一个庞大的软件生态系统,在过去 15 年里,围绕它们建立起来的软件生态系统是其他公司所没有的。” “目前人工智能的最大赢家是英伟达。”

利用云优势

然而,AWS 的云主导地位是亚马逊的一大差异化因素。

“亚马逊不需要赢得头条新闻。亚马逊已经拥有非常强大的云安装基础。他们所需要做的就是弄清楚如何让现有客户能够利用生成式人工智能扩展到价值创造活动,”德凯特说。

当在亚马逊、谷歌和微软之间选择生成式人工智能时,数以百万计的 AWS 客户可能会被亚马逊吸引,因为他们已经熟悉亚马逊,运行其他应用程序并在那里存储数据。

“这是一个速度问题。这些公司能够以多快的速度开发这些生成式 AI 应用程序,这取决于首先从 AWS 中拥有的数据开始,并使用我们提供的计算和机器学习工具,”AWS 威廉希尔官方网站 副总裁Mai-Lan Tomsen Bukovec 解释道 。

根据科技行业研究机构Gartner的数据,AWS 是全球最大的云计算提供商,到 2022 年将占据 40% 的市场份额。尽管营业收入连续三个季度同比下降,但AWS第二季度仍占亚马逊整体77亿美元营业利润的70 %。AWS 的运营利润率历来远高于谷歌云。

AWS 还拥有不断增长的专注于生成式 AI 的开发人员工具组合。

“让我们把时间倒回到 ChatGPT 之前。这并不像那件事发生之后,我们突然匆忙制定了一个计划,因为你不可能在那么快的时间内设计出芯片,更不用说你无法在大约 2 到 3 个月的时间。”AWS 数据库、分析和机器学习副总裁 Swami Sivasubramanian 说道。

Bedrock 使 AWS 客户能够访问由Anthropic、Stability AI、AI21 Labs 和亚马逊自己的 Titan 制作的大型语言模型。

“我们不相信一种模型会统治世界,我们希望我们的客户能够拥有来自多个提供商的最先进的模型,因为他们会为正确的工作选择正确的工具,”西瓦苏布拉马尼安说道。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50761

    浏览量

    423369
  • 人工智能
    +关注

    关注

    1791

    文章

    47238

    浏览量

    238352
  • 亚马逊
    +关注

    关注

    8

    文章

    2659

    浏览量

    83332

原文标题:亚马逊,大力发展芯片

文章出处:【微信号:wc_ysj,微信公众号:旺材芯片】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    亚马逊转向Trainium芯片,全力投入AI模型训练

    亚马逊AWS推出了两款芯片:Inferentia和Trainium。其中,Inferentia主要用于AI推理,而Trainium则专注于AI模型的训练。 然而,随着生成式AI威廉希尔官方网站 的不断发展,这两者在
    的头像 发表于 12-13 14:14 270次阅读

    亚马逊启动“登月”计划,目标部署10万颗自研AI芯片

    电子发烧友网报道(文/吴子鹏)日前,彭博社发文称,为减少对英伟达芯片的依赖,亚马逊已经秘密启动了“登月”(moonshot)的计划,目前正在其位于得克萨斯州奥斯汀的工程实验室加紧研发一款新的AI芯片
    的头像 发表于 12-02 00:26 2190次阅读

    亚马逊追加40亿美元投资,深化与Anthropic战略合作

    近日,亚马逊宣布与人工智能公司Anthropic进一步深化战略合作,以推动双方在人工智能领域的共同发展。 作为合作的重要一环,Anthropic选择了亚马逊云科技作为其模型训练的首要合作伙伴。这
    的头像 发表于 11-26 11:13 386次阅读

    亚马逊将推新芯片,挑战英伟达

    亚马逊正准备推出其最新的人工智能芯片,这标志着其在半导体威廉希尔官方网站 方面数十亿美元的投资迈出了重要一步。目标是减少对NVIDIA的依赖,后者目前在AI处理器市场占据主导地位。亚马逊的云计算部门
    的头像 发表于 11-15 01:08 255次阅读
    <b class='flag-5'>亚马逊</b>将推新<b class='flag-5'>芯片</b>,挑战英伟达

    亚马逊将推出最新人工智能芯片

    近日,亚马逊(Amazon.com)宣布即将推出其最新的人工智能芯片,标志着这家大型科技集团在半导体领域的又一重大举措。据悉,亚马逊正寻求通过数十亿美元的半导体投资获得丰厚回报,并计划减少对当前市场领导者英伟达的依赖。
    的头像 发表于 11-14 15:27 249次阅读

    智慧用电促进智慧城市的大力发展

    摘要:近年来我国科技飞速发展,由于科技的高速发展,大数据、云计算、等等都被应用到现实生活中,所以智慧城市的定义也被人们提出来,解决相关城市检视问题,智慧用电的思想在很多人们的心中早就有了想法,并且
    的头像 发表于 11-12 09:35 209次阅读
    智慧用电促进智慧城市的<b class='flag-5'>大力发展</b>

    国家大力部署 IPv6,打造下一代互联网新生态

    大力发展基于IPv6的下一代互联网,有助于提升我国网络信息威廉希尔官方网站 自主创新能力和产业高端发展水平。IPv6能够高效支撑移动互联网、物联网、工业互联网、云计算、大数据
    的头像 发表于 10-09 13:37 593次阅读
    国家<b class='flag-5'>大力</b>部署 IPv6,打造下一代互联网新生态

    英特尔将为亚马逊定制AI芯片

    英特尔首席执行官帕特·基辛格近日宣布了一项重大合作,正式将亚马逊AWS纳入其高端制造业务的客户行列。双方将携手开启一项为期数年、投资规模高达数十亿美元的宏伟计划,共同研发一款专为人工智能计算量身定制的芯片
    的头像 发表于 09-20 17:54 922次阅读

    亚马逊AWS自研AI芯片崛起,挑战英伟达

    近期,据路透社独家报道披露,在德克萨斯州奥斯汀市一处紧密防守的芯片实验室中,六位来自亚马逊AWS的工程师正在对一种尚未公开透露名称及详细参数的新型服务器展开深入测试。这一关键事件引人注目,因为我们
    的头像 发表于 07-27 14:33 1102次阅读

    亚马逊正测试一款融入AI芯片的新型服务器设计

    在得克萨斯州奥斯汀的秘密芯片实验室中,亚马逊正紧锣密鼓地测试一款高度保密的新型服务器设计,该设计融入了亚马逊自主研发的AI芯片,旨在与业界巨头英伟达展开正面竞争。这一举措由
    的头像 发表于 07-26 14:21 562次阅读

    亚马逊AWS称未停止任何英伟达芯片订单

    针对近期关于“亚马逊云计算部门暂停订购英伟达Hopper芯片”的报道,亚马逊AWS部门近日给出了明确回应。AWS发言人表示,公司并未停止任何与英伟达相关的订单。
    的头像 发表于 05-22 11:39 545次阅读

    国务院:将大力发展智能网联新能源汽车,促进产业高端智能绿色化升级

    总理在考察过程中,详细了解了各家展商的参展车型以及威廉希尔官方网站 演示,并强调要大力发展智能网联新能源汽车,用科技创新推动产业升级,深化对外开放合作,实现汽车产业的高端化、智能化和绿色化。
    的头像 发表于 04-29 11:34 409次阅读

    星曜半导体发布两款TF-SAW双工器,满足5G手机的高速率需求

    全球5G通信威廉希尔官方网站 的大力发展推动射频前端器件需求大幅提升。在所需芯片数量持续增加和可用布版面积日益减少的矛盾下,射频系统架构不断更新迭代。
    的头像 发表于 04-01 09:41 913次阅读
    星曜半导体发布两款TF-SAW双工器,满足5G手机的高速率需求

    苏州高新区:构建全国影响力汽车芯片产业,国芯科技引领

    回顾近些年,汽车电子芯片市场需求旺盛,成长迅速,尤其是车规级芯片对性能、寿命、可靠性、安全等方面要求较高,且主要被几家国际大厂所垄断。为此,苏州高新区大力发展汽车电子芯片产业链,强调国
    的头像 发表于 02-18 15:07 719次阅读

    深入了解浮点运算—CPU和GPU算力是如何计算的?

    随着国家大力发展数字经济,算力的提升和普惠变得越来越重要。在数字化时代,算力已成为推动科技发展和创新的关键要素。
    的头像 发表于 01-18 18:20 4099次阅读
    深入了解浮点运算—CPU和GPU算力是如何计算的?