0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVLink的演进:从内部互联到超级网络

汽车电子设计 来源:芝能智芯出品 2024-04-13 11:22 次阅读

随着人工智能AI)威廉希尔官方网站 的迅猛发展,对于高效、快速的数据传输和处理变得越来越迫切。英伟达的NVLink威廉希尔官方网站 一直处于威廉希尔官方网站 前沿,不断推动着GPU之间和GPU与其他组件之间的互联效率。

本文将介绍NVLink的演进历程,从最初的内部互联到如今的超级网络,探索其在AI芯片架构中的重要作用。

4916d020-f939-11ee-a297-92fbcf53809c.png

Part 1

NVLink的起源

NVLink是NVIDIA开发的一种高速、低延迟的互联威廉希尔官方网站 ,旨在连接多个GPU以实现高性能并行计算。与传统的PCIe总线相比,NVLink提供了更高的带宽和更低的延迟,使得GPU之间可以更加高效地共享数据和通信

49289116-f939-11ee-a297-92fbcf53809c.png

NVLink最初的目标是解决GPU之间的互联问题。早期的GPU一定需要保留与CPU互联的PCIe接口,因此NVLink自然而然地继承了这一威廉希尔官方网站 。

NVLink利用了Ethernet生态的成熟互联威廉希尔官方网站 ,但并未完全遵循Ethernet的规范,采用了不同的调制方式以降低时延。这使得NVLink在速率和时延上都具有优势,逐渐成为了PCIe的竞争对手。

NVLink采用了基于差分信号线的高速串行通信威廉希尔官方网站 ,通过将多个Sub-Link(子链接)组合成Port(端口),实现GPU之间的快速数据传输。每个Port由多个Sub-Link组成,每个Sub-Link都由一对差分信号线构成,可以实现高达几百Gbps的传输速率。NVLink还支持内存一致性和直接内存访问(DMA),进一步提高了数据传输效率和计算性能。

Part 2

NVLink的发展

NVLink 首次作为与 NVIDIA P100 GPU 的 GPU 互连推出,并与每个新的 NVIDIA GPU 架构保持同步发展。随着威廉希尔官方网站 的不断发展,NVLink逐渐走出了盒子和机框,成为了一个独立的网络设备,对标InfiniBand和Ethernet网络。

每一代NVLink的速率都会是上一代的1.5到2倍,未来NVLink5.0预计将采用更高的速率,如200G每通道。同时,NVLink在带宽指标上对PCIe形成了碾压式的竞争优势,不断拓展着其应用领域。

494aabc0-f939-11ee-a297-92fbcf53809c.png

NVLink的发展经历了多个版本,每一代都在带宽、延迟和能效方面有所提升。新的NVLink带宽比上一代提高了两倍,这意味着数据传输更快,GPU之间的协作更加高效。第五代NVLink还在总带宽和性能方面有所提升。

NVSwitch3芯片集成了SHARP功能,对多个GPU单元的计算结果进行聚合和更新,减少网络数据包并提高计算性能。这些改进使得第五代NVLink在多GPU系统中的应用更加高效和灵活。

NVLink将继续发挥重要作用,随着AI芯片架构的不断演进,NVLink将进一步优化其性能和效率。NVLink的未来发展方向可能包括更高速率的互联威廉希尔官方网站 以及更广泛的应用场景,从而满足不断增长的数据处理需求。

小结

NVLink是一种由NVIDIA开发并推出的高速连接威廉希尔官方网站 ,作为Nvidia的核心威廉希尔官方网站 之一,在AI芯片领域扮演着至关重要的角色。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4729

    浏览量

    128897
  • PCIe
    +关注

    关注

    15

    文章

    1235

    浏览量

    82590
  • 英伟达
    +关注

    关注

    22

    文章

    3771

    浏览量

    90992

原文标题:NVLink的演进:从内部互联到超级网络

文章出处:【微信号:QCDZSJ,微信公众号:汽车电子设计】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    一文了解AI网络互联的市场潜力

    AI网络多层次的互联彰显市场潜力 NVIDIA作为全球领先的视觉计算和人工智能公司,其市值突破万亿元的背后,除了强大的GPU产品线,互联威廉希尔官方网站 扮演了不可或缺的支柱角色。NVIDIA于2019年收
    的头像 发表于 11-27 10:08 405次阅读
    一文了解AI<b class='flag-5'>网络</b><b class='flag-5'>互联</b>的市场潜力

    IPv4 IPv6,网络世界的进化之路

    互联网发展的漫长历程中,网络协议的变革犹如一场悄无声息却又影响深远的革命。而IPv4IPv6的演进,无疑是这场革命中最为关键的章节之一
    的头像 发表于 11-19 10:22 401次阅读
    <b class='flag-5'>从</b> IPv4 <b class='flag-5'>到</b> IPv6,<b class='flag-5'>网络</b>世界的进化之路

    分布式通信的原理和实现高效分布式通信背后的威廉希尔官方网站 NVLink演进

    大型模型的大小已经超出了单个 GPU 的范围。所以就需要实现跨多个 GPU 的模型训练,这种训练方式就涉及到了分布式通信和 NVLink。 当谈及分布式通信和 NVLink 时,我们进入了一个引人入胜且不断演进的威廉希尔官方网站 领域,下面我
    的头像 发表于 11-18 09:39 415次阅读
    分布式通信的原理和实现高效分布式通信背后的威廉希尔官方网站
<b class='flag-5'>NVLink</b>的<b class='flag-5'>演进</b>

    奇异摩尔赋能万卡集群互联

    的八家公司宣布他们已经为人工智能数据中心的网络制定了新的互联威廉希尔官方网站 UALink(Ultra Accelerator Link),以打破英伟达NVLink威廉希尔官方网站 垄断的消息受到了广泛的关注。
    的头像 发表于 09-19 13:03 646次阅读

    单一互联:KNX网关如何改变你的家居生活

    单一互联:KNX网关如何改变你的家居生活 在科技日新月异的今天,家居生活正经历着一场前所未有的变革。过去单一、孤立的设备操作,如今智
    的头像 发表于 08-22 12:00 183次阅读

    为什么安卓手机无法显示ESP8266发送的网页?

    ------------------------------------------- 但是,当我还将 ESP 8266 消息流量定向 PC 的串口时 我可以看到 android 发送到和来自超级终端ESP8266的
    发表于 07-12 07:17

    工业互联网如何混沌创新?卡奥斯给出了智能交互引擎的答案

    今年的政府工作报告中,首次提到了“人工智能+”这一概念,不禁让人联想到2015年首度提出的“互联网+”。互联网+”“人工智能+”,概念差异的背后,本质上是生产力的重大革新。过去十
    的头像 发表于 06-18 08:05 180次阅读
    工业<b class='flag-5'>互联</b>网如何<b class='flag-5'>从</b>混沌<b class='flag-5'>到</b>创新?卡奥斯给出了智能交互引擎的答案

    科技巨头组建“复仇者联盟”,挑战英伟达的NVLink威廉希尔官方网站

    据报导,包括 AMD、谷歌、微软、英特尔(Intel)、博通(Broadcom)和思科(Cisco)在内的多家国际科技龙头联手,组成“复仇者联盟”,欲挑战 NVIDIA 的 NVLink 威廉希尔官方网站 。
    的头像 发表于 05-31 11:54 619次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    1.8TB的GPUGPU互连速度、InfiniBand网络和NVIDIA Magnum IO™软件的第五代NVLink威廉希尔官方网站 ,GB200 NVL72性能显著提升。 此外,GB200 NVL72还采用液体
    发表于 05-13 17:16

    全面解读英伟达NVLink威廉希尔官方网站

    NVLink是一种解决服务器内GPU之间通信限制的协议。与传统的PCIe交换机不同,NVLink带宽有限,可以在服务器内的GPU之间实现高速直接互连。第四代NVLink提供更高的带宽,每条通道达到112Gbps,比PCIe Ge
    发表于 04-22 11:01 1314次阅读
    全面解读英伟达<b class='flag-5'>NVLink</b>威廉希尔官方网站

    什么是NVIDIA?InfiniBand网络VSNVLink网络

    NVSwitch物理交换机将多个NVLink GPU服务器连接成一个大型Fabric网络,即NVLink网络,解决了GPU之间的高速通信带宽和效率问题。
    发表于 04-16 09:56 1337次阅读
    什么是NVIDIA?InfiniBand<b class='flag-5'>网络</b>VSNVLink<b class='flag-5'>网络</b>

    IPv6促进网络云化算网融合的演进,赋予网络创新机会

    示,IPv6将促进网络云化算网融合的演进,给予网络更多创新的机会。以下是本次演讲的主要内容节选:   IPv6赋能企业上云驱动数字化转型
    的头像 发表于 04-10 13:43 252次阅读
    IPv6促进<b class='flag-5'>从</b><b class='flag-5'>网络</b>云化<b class='flag-5'>到</b>算网融合的<b class='flag-5'>演进</b>,赋予<b class='flag-5'>网络</b>创新机会

    英伟达官宣新一代Blackwell架构,把AI扩展万亿参数

    基于Chiplet与片间互联威廉希尔官方网站 ,800Gb/s RNIC,1.8TB/s NVLink,英伟达正一步步构建出大型AI超算集群。互联效率定义LLM效率,互联元年正式开启。
    的头像 发表于 03-19 14:22 1011次阅读
    英伟达官宣新一代Blackwell架构,把AI扩展<b class='flag-5'>到</b>万亿参数

    NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI 超级计算

    基于先进的 NVIDIA 网络、NVIDIA 全栈 AI 软件和存储威廉希尔官方网站 ,可将集群中 Grace Blackwell 超级芯片的数量扩展至数万个,通过 NVIDIA NVLink可将多达 576 块
    发表于 03-19 10:56 422次阅读
    NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI <b class='flag-5'>超级</b>计算

    从盘中孔真空塞孔,线路板树脂塞孔威廉希尔官方网站 的演进之路

    从盘中孔真空塞孔,线路板树脂塞孔威廉希尔官方网站 的演进之路
    的头像 发表于 02-25 09:17 903次阅读