0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌最强大的定制设计人工智能加速器—TPU v5p芯片

Qxwdz168 来源:计算机视觉芯片设计 2023-12-26 09:31 次阅读

谷歌正迅速成为 BFF Nvidia 的强大对手——为其超级计算机提供动力的 TPU v5p AI 芯片速度更快,内存和带宽比以往任何时候都多,甚至击败了强大的 H100

TPU v5p——谷歌最强大的定制设计人工智能加速器——已被部署为该公司的“人工智能超级计算机”提供动力。 这是一种专门为运行人工智能应用程序而构建的超级计算架构,而不是通常运行科学工作负载的超级计算机,因为 TPU 不适合于此。

最新版本的 TPU 每个 Pod 有 8,960 个芯片(构成系统),而 v4 中有 4,096 个芯片,并且就每个 Pod 的 FLOP 总可用性而言,其可扩展性是其四倍。 这些新 Pod 提供 4,800Gbps 的吞吐量。 新 Pod 还配备 95GB 高带宽内存 (HBM),而 TPU v4 中则配备 32GB HBM RAM。​

与Nvidia 提供 GPU 供其他公司购买不同,谷歌的定制 TPU 仍保留在内部,供其自己的产品和服务使用。 谷歌的 TPU 长期以来一直用于为其 Gmail、YouTube 和 Android 等服务提供支持,最新版本也用于训练 Gemini。

它的功能甚至足以与 Nvidia 广受欢迎的 H100 GPU 相媲美,后者是处理 AI 工作负载的最佳显卡之一。 根据该公司自己的数据,该组件在训练工作负载方面比 Nvidia 的 A100 GPU 快四倍。

与此同时,根据 4 月份发布的研究显示,谷歌 TPU v4 的速度预计比 A100 快 1.2 至 1.7 倍。 因此,令人难以置信的粗略计算表明,TPU v5p 的速度大约是 A100 的 3.4 到 4.8 倍,这使其与 H100 相当!







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 加速器
    +关注

    关注

    2

    文章

    799

    浏览量

    37858
  • RAM
    RAM
    +关注

    关注

    8

    文章

    1368

    浏览量

    114668
  • TPU
    TPU
    +关注

    关注

    0

    文章

    141

    浏览量

    20723
  • HBM
    HBM
    +关注

    关注

    0

    文章

    379

    浏览量

    14751
  • 人工智能芯片

    关注

    1

    文章

    120

    浏览量

    29102

原文标题:TPU v5p人工智能芯片

文章出处:【微信号:计算机视觉芯片设计,微信公众号:计算机视觉芯片设计】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    学习和更新提供了可能,从而使人工智能应用能够不断适应和优化。 总的来说,嵌入式系统在人工智能中的作用不容忽视。它不仅为人工智能硬件加速提供了强大
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    人工智能:科学研究的加速器 第一章清晰地阐述了人工智能作为科学研究工具的强大功能。通过机器学习、深度学习等先进威廉希尔官方网站 ,AI能够处理和分析海量数据,发现传统方法难以捕捉的模式和规律。这不
    发表于 10-14 09:12

    Samtec AI 应用详述 | 人工智能加速器所需的连接

    数据挖掘、人工智能、机器学习、商业分析。 高性能互连是中央处理(CPU)和人工智能加速器之间的纽带,在实现这些系统所需的可扩展性和灵活性方面发挥着至关重要的作用。 今天,我们将在文章
    发表于 09-29 13:44 565次阅读
    Samtec AI 应用详述 | <b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>所需的连接<b class='flag-5'>器</b>

    risc-v人工智能图像处理应用前景分析

    定制性。这些特点使得RISC-V在多个领域,包括人工智能图像处理领域,具有显著的优势。 二、RISC-V人工智能图像处理中的优势 开源性和
    发表于 09-28 11:00

    TPU v1到Trillium TPU,苹果等科技公司使用谷歌TPU进行AI计算

    ,在训练尖端人工智能方面,大型科技公司正在寻找英伟达以外的替代品。   不断迭代的谷歌TPU 芯片   随着机器学习算法,特别是深度学习算法在各个领域的广泛应用,对于高效、低功耗的AI
    的头像 发表于 07-31 01:08 3359次阅读

    FPGA在人工智能中的应用有哪些?

    定制化的硬件设计,提高了硬件的灵活性和适应性。 综上所述,FPGA在人工智能领域的应用前景广阔,不仅可以用于深度学习的加速和云计算的加速,还可以针对特定应用场景进行
    发表于 07-29 17:05

    谷歌推出Trillium AI芯片,性能提高近5

    谷歌推出了其最新的人工智能数据中心芯片——Trillium。这款芯片谷歌的第六代产品,与上一代TPU
    的头像 发表于 05-16 10:39 777次阅读

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2) 课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能
    发表于 05-10 16:46

    Hailo获1.2亿美元新融资,首发AI加速器Hailo-10,助力边缘设备实现生成式人工智能

    威廉希尔官方网站 引入边缘计算领域,为行业发展注入新动力。 边缘人工智能处理的领先芯片制造商Hailo近日宣布C轮融资再获1.2亿美元投资。与此同时,Hailo还推出创新型Hailo-10高性能生成式人工
    的头像 发表于 04-03 11:57 336次阅读

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    https://t.elecfans.com/v/27186.html *附件:引体向上测试案例_20240126.pdf 人工智能 工业检测:芯片模组外观检测实训part1 11分40秒 https
    发表于 04-01 10:40

    瑞萨发布下一代动态可重构人工智能处理加速器

    瑞萨最新发布的动态可重构人工智能处理(DRP-AI)加速器,在业界引起了广泛关注。这款加速器拥有卓越的10 TOPS/W高功率效率,相比传统威廉希尔官方网站 ,效率提升了惊人的10倍。其独特之处在
    的头像 发表于 03-08 13:45 769次阅读

    Tenstorrent将为日本LSTC新型边缘2纳米AI加速器开发芯片

    加拿大AI芯片领域的初创公司Tenstorrent与日本尖端半导体威廉希尔官方网站 中心(LSTC)达成了一项多层次合作协议。根据协议内容,LSTC将采用Tenstorrent的世界级RISC-V架构和芯片IP来开发其新型边缘2纳米
    的头像 发表于 02-28 10:49 672次阅读

    嵌入式人工智能的就业方向有哪些?

    。 国内外科技巨头纷纷争先入局,在微软、谷歌、苹果、脸书等积极布局人工智能的同时,国内的BAT、华为、小米等科技公司也相继切入到嵌入式人工智能的赛道。那么嵌入式AI可就业的方向有哪些呢? 嵌入式AI开发
    发表于 02-26 10:17

    家居智能化,推动AI加速器的发展

    电子发烧友网报道(文/黄山明)AI加速芯片,也称为人工智能加速器(AI Accelerator),是一种专为执行机器学习和深度学习任务而设计的ASIC或
    的头像 发表于 02-23 00:18 4587次阅读

    英伟达、AMD在2024年继续全力冲刺人工智能加速器市场

    英伟达、AMD在2024年继续全力冲刺人工智能(AI)加速器市场。
    的头像 发表于 01-08 17:27 1217次阅读
    英伟达、AMD在2024年继续全力冲刺<b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>市场