0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DPU能解决什么问题?

jf_78858299 来源:小熊跑的快 作者:小熊跑的快 2023-04-19 15:41 次阅读

DPU这个概念最近一年多才出现的,被英伟达的 Mellanox 带火,英伟达和迈威尔这个业务的增速都很高,市场也高看一眼。所幸大厂和中小厂商同一起跑线,国内也能参与竞争。老规矩,按照市场最关心的问题,分如下部分:

1、DPU是什么?

2、DPU解决什么问题?

3、DPU市场空间有多大?

4、DPU能不能成为独立主流芯片

5、海内外玩家有哪些?

6、最后会不会一家独大,赢家通吃?

1、DPU是什么

Data Processing Unit,即数据处理器。DPU最直接的作用是作为CPU的卸载引擎,接管网络虚拟化、硬件资源池化等基础设施层服务,释放CPU的算力到上层应用。以网络协议处理为例,要线速处理10G的网络需要的大约4个Xeon CPU的核,也就是说,单是做网络数据包处理,就可以占去一个8核高端CPU一半的算力。Amazon 把这些开销都称之为“Datacenter Tax”,DPU就是把“Datacenter Tax”从CPU 上卸去,转移到一张专门的加速卡上,DPU。

DPU可以成为新的数据网关,将安全隐私提升到一个新的高度,网络接口一般是网络加密,解密的重要边界,所以海内外都有网络安全公司做DPU的例子。DPU也可以成为存储的入口,将分布式的存储和远程访问本地化。

DPU诞生之初,就是一颗异构芯片。DPU不是一颗固化的ASIC,在CXL、CCIX等标准组织倡导CPU、GPU与DPU等数据一致性,DPU编程障碍扫清。国内一些互联网大厂用FPGA的方式开发DPU,海外飞塔这家公司用的ASIC方式,将DPU的性能加到网安组件里面。

上一个硬件图吧

国内中科驭数的系统架构:

图片

2、DPU解决什么问题

DPU为什么能火?算力荒!DPU解决的主要是带宽提速之后,CPU算力被占用,进而卡顿的问题。它的角色是在以前网卡的基础上再升级,不断写入功能在里面,自身优化线路,协议等,慢慢成型的一个玩意。IDC的数据显示,全球数据量在过去10年年均复合增长率接近50%,并进一步预测每四个月对于算力的需求就会翻一倍。与此相对的是CPU性能每年提升3%,巨大的差距面前,加速芯片独立了。参照下图:

图片

数据来源:IDC

DPU 的前身,可以延续到智能网卡。早期智能网卡就是一张高速网卡+FPGA芯片扩展,目的也是加速,但这种组合没有成为绝对主流。这类智能网卡只被当作FPGA加速卡,有FPGA优势,也继承了所有FPGA的局限性。当下DPU是对现有的SmartNIC的一个整合,能看到很多以往SmartNIC的影子,但明显高于之前任何一个SmartNIC的定位.以后DPU可能不限于75W的控制中,会有独立的供电系统。

DPU可以应用到很多场景,大的就有三个:网络功能卸载,储存功能卸载,安全功能卸载。网络功能卸载是伴随云计算网络而产生的,主要是对云计算主机上的虚拟交换机的能力做硬件卸载,从而减少主机上消耗在网络上的CPU算力,提高可售卖计算资源;储存功能卸载,NVMe over Fabric是一个相对较新的协议规范,使用NVMe通过网络结构将主机连接到存储,支持对数据中心的计算和存储进行分解。

NVMe-oF协议定义了使用各种通用的输协议来实现NVMe功能的方式;安全功能卸载,在传统的网卡上做云平台虚拟化,Hypervisor以及对应的虚拟化网络的实现,都是在主机操作系统上实现的。

引入DPU智能网卡之后,将虚拟化网络的控制平面完全卸载到智能网卡上,与主机操作系统相隔离。即使黑客攻陷了Hypervisor,获取了主机操作系统的root权限,也无法篡改虚拟化网络的配置,这样可以将黑客的攻击范围限制在主机操作系统上,不会影响到虚拟化网络以及其它主机,做到有效隔离。

3、DPU市场空间有多大

按照海外投行的说法,DPU的潜在市场非常巨大,预测到2025年仅中国市场就能达到每年40亿美元的规模,估计全球将超过120亿美元,但挑战与机遇并存。IaaS在国内云服务市场占比约60%,支撑了目前最重要的PaaS的容器云威廉希尔官方网站 。未来几年,我国仍将维持IaaS为主的云计算结构,预计市场占比将逐上升到70%。

4、DPU能不能成为独立主流芯片

前面说了,DPU是智能网卡演化而来,能不能成为独立主流芯片,当下威廉希尔官方网站 还在竞争发展中。

前面说了,DPU是智能网卡演化而来,能不能成为独立主流芯片,当下威廉希尔官方网站 还在竞争发展中。DPU目前主流形态是外挂”CPU和FPGA会封装到一个芯片中,形成一个奇怪的通过PCIe总线互联的两个CPU系统。这个架构非常简洁,但同时IPU引发了一个架构性的问题,这个架构到底IPU是中心,还是host CPU是中心?”。因为这方面的威廉希尔官方网站 还在猛烈革新中,所以这三颗大芯片最后的架构怎么样,谁胜出,还要看。但趋势是直线向上的。

图片

5、海内外玩家有哪些

从威廉希尔官方网站 流派来讲,援引赛迪发布的《2021中国DPU行业发展白皮书》内容:DPU方案分为三种:一是以通用众核处理器为基础,以多核ARM为核心,以众取胜,可编程灵活性较好,但是应用针对性不够,对于特殊算法和应用的支持与通用CPU相比并无太显著优势;二是以专用核为基础的异构核阵列,针对性较强、性能较好,但是牺牲了部分灵活性;第三种路线结合了前二者优势,即将通用处理器的可编程灵活性与专用的加速引擎相结合,正在成为最新产品趋势。

说的有点抽象,用公司来举例,以英伟达,英特尔为例, 基于GPU + FPGA威廉希尔官方网站 经验,数据处理**** 赛灵思 被认为是智能网卡玩家 ,基础的威廉希尔官方网站 线路和方案比较接近。 现在一些FPGA+NP等威廉希尔官方网站 源于这里,有人把这类归于白皮书里的第三类,折中方案。

通信玩家,博通 Marvell****就是这个路子,他们以数据交换,网络通信起家,他们的解决方案主要**** 基于ARM内核方案。 新玩家 Fungible思科 **出身,更倾向于 网络威廉希尔官方网站 ARM内核方案。

目前海内外玩家的竞争都集中在服务器网卡, AI加速计算,智能计算和算力的概念联系上,被上升到计算架构的高度,被一级市场 吹嘘到突破摩尔定律。谁知道呢?

具体讲讲各公司情况,附国内创业公司:

英伟达:NVIDIA收购Mellanox后(intel关注洽谈这家很久),在ConnectX系列高速网卡威廉希尔官方网站 基础上,推出其BlueField系列DPU,DPU定名!Mellanox和intel在阿里项目上历时十几个月的PK,累趴对手,成为国内大互联网厂首个DPU签约主体。Mellanox以前的产品主要应用在超算,后来威廉希尔官方网站 部门研究可以进入服务器市场。英伟达增速最快的业务就是服务器业务,由于虚拟机和容器(containers)等的流行,应用程序在多台终端运行,应对数据中心流量爆炸的问题而Mellanox是专家。目前Mellanox的产品在其财报里面数据中心一项,按照最新的电话会议说法,不是受制于产能,增速应该能超过整个数据中心增长。

Xilinx:被AMD收购,早前出了Alveo系列加速卡。

Intel :2015年底收购了Xilinx的竞争对手——Altera,进一步开发硬件加速能力。2021年6月发布IPU产品(名字不一样),将FPGA与Xeon D系列处理器集成,成为了DPU赛道有力的竞争者。

Marvall:2021 年发布OCTEON 10 DPU产品,不仅具备强大的转发能力,还具有突出的AI处理能力。

还有一些参与主体:互联网厂商,内部也有改善服务器速度的开发自研计划。Google、Amazon,阿里巴巴等。

图片

注:Fungible成立于2015年,目前拥有约200名员工,总筹资超过3亿美元。其他投资者包括Battery Ventures,Mayfield Fund,Redline Capital和Walden Riverwood Ventures。其新资本将用于加速产品开发。

国内的玩家都是初创期,拥有一个大的客户,或者行业熟悉客户,打磨自己的DPU产品,因为现在海内外同一起跑线,所以看起各家融资ppt都贼牛逼。

图片

6、最后会不会一家独大、赢家通吃

目前要解决DPU标准化应用,还存在一定挑战。由于数据中心本身的复杂性,各大厂商一方面采用COTS组件来构建系统,追求低成本,一方面又设法分层服务化(IaaS,PaaS,SaaS),打造面向不用类型客户的标准化产品。内容方AWS有Nitro,阿里云有MOC,反正就是五花八门——有的厂商强化IO能力、有的关注路由转发、有的重视存储卸载、有的关注安全加密。

至于有没有赢家通吃,一家独大,类似CPU,GPU这样的格局出现,目前暂时看不到,只能说,数据爆发的阶段,大家都有碗饭吃。

首先,DPU是一种专用处理器,与通用CPU的发展路径有所不同。专用计算重点放在数据平面,而通用计算重点放在控制平面。作为专用处理器,DPU的功能是收敛的,不用太多考虑多元化,代际兼容等问题。典型的“先垂直深耕,再水平扩展”的路径,所以在初期,会有针对不同领域,不同类型甲方的异构产品出现。

需求不同,产品就容易碎片化,例如各大公有云厂商、电信运营商等都有比较完整、也比较封闭的底层架构和应用生态。上层负载不同,必然对底层架构有各异的需求,这也许是目前DPU标准化面临的最大的挑战

当然这里的碎应该不是贬义词,应该指“专”,毕竟DPU不是一个人人都能进入的赛道。由其专用性,需要长期行业“Knowhow”持续打磨迭代产品,这对于行业内初创公司才有更大的生存空间,大家同一起跑线。DPU当下类似于工业软件,需要上下游企业,甲方乙方共同来构建良性、开放的生态环境。

传统的“one-size-fit-all”的ASIC商业模式,通过上量来摊薄芯片研发的巨额NRE成本本身还是有效的。所以专用DPU最终也要谋求“水平扩展”来覆盖更多的场景,还是要尽可能把各异的需求整合起来,并且适应不同厂商。

也许十年后,在竞争合作中博弈出了满足各种行业需求的产品,兼顾灵活性与成本。也许十年后的DPU能解决复杂网络、安全、存储、虚拟化等方面的问题,真真正正成为举足轻重的“第三颗大芯片”。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10863

    浏览量

    211794
  • DPU
    DPU
    +关注

    关注

    0

    文章

    358

    浏览量

    24184
  • 数据处理器
    +关注

    关注

    0

    文章

    26

    浏览量

    8654
收藏 人收藏

    评论

    相关推荐

    示波器的FFT能解什么问题

    本文将教你用五种方法把示波器上的FFT做成极致! 一、示波器上的FFT是什么? 二、示波器的FFT能解什么问题? 三、示波器的FFT 经常变成用户手里的鸡肋,问题在哪? 四、我们把示波器上的频谱
    的头像 发表于 08-23 09:31 1.8w次阅读

    《数据处理器:DPU编程入门》读书笔记

    首先感谢电子发烧友论坛提供的试读机会。 第一周先阅读了DPU的威廉希尔官方网站 发展背景,了解到DPU是结合了高性能及软件可编程的多核CPU、高性能网络接口,以及各种灵活和可编程的加速引擎。DPU的主要作用是卸载
    发表于 12-21 10:47

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    一、DPU计算框架 通过一周多的时间翻阅这本书,基本上这本书是一本比较全面的,面向架构的新手指导数据。它在书中详尽介绍了关于DPU在计算机架构中的应用。 对于DPU来说,是一种平行于CPU和GPU
    发表于 12-24 10:54

    FPGA能解什么问题看了就知道

    了解FPGA?首先,如果你从未接触过FPGA(现场可编程门阵列),或者有过一点基础想要继续深入了解这个行业,在这个小节,我会向你介绍FPGA,并且向你解释FPGA都能解什么问题,如何解决这些问题,并讨论如何将设计进行优化等等。
    发表于 10-21 13:32

    【米尔FZ3深度学习计算卡试用体验】DPU搭建

    本帖最后由 liujing1232 于 2020-12-10 17:02 编辑 1 DPU Xilinx® 深度学习处理器单元 (DPU) 是一个专门用于卷积神经网络的可编程引擎。该单元包含
    发表于 12-10 15:23

    eplan_路径功能文本能解什么问题

    eplan_路径功能文本是什么?eplan_路径功能文本能解什么问题?eplan_路径功能文本可能存在哪些问题?
    发表于 09-06 07:24

    DPU中D是什么意思?有什么含义吗?

    DPU中D是什么意思?有什么含义吗?
    发表于 03-14 17:16

    专⽤数据处理器 (DPU) 威廉希尔官方网站 ⽩⽪书

    本帖最后由 jf_35791075 于 2022-3-14 17:37 编辑 ⽬录内容提要71.DPU威廉希尔官方网站 发展概况91.1. 什么是DPU 91.2. DPU的发展背景 121.3. D
    发表于 03-14 17:35

    英伟达DPU的过“芯”之处

    GPU威廉希尔官方网站 大会,从黄仁勋那里听到:数据中心已成为全新的计算单元。黄仁勋之所以有这样的底气,就在于这次发布会上推出了一款全新处理器DPU,以及围绕该处理器的软件生态架构DOCA。据英伟达的介绍,DPU可以
    发表于 03-29 14:42

    【书籍评测活动NO.23】数据处理器:DPU编程入门

    资格! “DPU将是未来计算的三大支柱之一。CPU用于通用计算,GPU用于加速计算,而DPU在数据中心移动数据,进行数据处理。” ——NVIDIA 创始人兼首席执行官黄仁勋于 GTC 2020
    发表于 10-24 15:21

    什么是DPU

    什么是DPU? 相信很多人对于CPU(中央处理器)已经非常熟悉了。灵活、响应迅速的CPU多年来一直是大多数计算机中唯一的可编程元件。 近年来,GPU(图形处理单元)逐渐成为了计算的中心。最初GPU
    发表于 11-03 10:55

    数据中台是什么,它能帮我们解决什么问题

    近几年来数据中台概念大火,市面上掀起了一波建业务中台、数据中台热潮,那么数据中台到底是什么?它的出现能解什么问题呢?
    的头像 发表于 04-13 15:11 3377次阅读

    什么是DPU 未来的DPU智能⽹卡硬件形态

    1.什么是DPU DPU(Data Processing Unit)是以数据为中心构造的专用处理器,采用软件定义威廉希尔官方网站 路线支撑基础设施层资源虚拟化,支持存储、安全、服务质量管理等 基础设施层服务
    的头像 发表于 11-02 14:21 7003次阅读
    什么是<b class='flag-5'>DPU</b> 未来的<b class='flag-5'>DPU</b>智能⽹卡硬件形态

    openEuler邀您共同探索DPU生态

    随着工业互联网、AI、大数据等产业发展,业务对算力需求大幅度增长,为应对算力增长带来的挑战,DPU应运而生。 DPU SIG是openEuler为应对DPU出现所带来威廉希尔官方网站 挑战创建的特别兴趣小组,希望
    发表于 11-24 11:19 407次阅读

    pcb仿真能解什么问题

    pcb仿真能解什么问题?  PCB(Printed Circuit Board,印刷电路板)是一种在电气和电子设备中应用广泛的基础元件。随着威廉希尔官方网站 的不断发展,PCB设计也进入了数字化和智能化的时代
    的头像 发表于 08-29 16:40 1490次阅读