0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

服务器:计算产业链及竞争格局

架构师威廉希尔官方网站 联盟 来源:架构师威廉希尔官方网站 联盟 2023-06-11 16:13 次阅读

人工智能之火点燃算力需求,AI服务器市场拆解”,详细介绍了服务器构成及市场情况、AIGC带来服务器变革、训练&推理带来服务器增量需求、AI服务器市场迎来高速发展机遇、AI服务器产业链解析、AI服务器竞争格局。

详细威廉希尔官方网站 内容参考“高性能计算知识汇总”及“OpenMP编译原理及实现”,高性能计算应用特征剖析、深度报告:GPU研究框架、《高性能计算和超算专题》。及人工智能之火点燃算力需求,AI服务器市场拆解。

服务器主要硬件包括处理器、内存、芯片组、I/O (RAID卡、网卡、HBA卡)、硬盘、机箱(电源、风扇)。以一台普通的服务器生产成本为例,CPU及芯片组大致占比50%左右,内存大致占比15%左右,外部存储大致占比10%左右,其他硬件占比25%左右。

服务器的逻辑架构和普通计算机类似。但是由于需要提供高性能计算,因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。

逻辑架构中,最重要的部分是CPU和内存。CPU对数据进行逻辑运算,内存进行数据存储管理。

服务器的固件主要包括BIOS或UEFI、BMC、CMOS,OS包括32位和64位。

根据Counterpoint的全球服务器销售跟踪报告,服务器市场规模持续增长。2022年,全球服务器出货量将同比增长6%,达到1380万台。收入将同比增长17%,达到1117亿美元。根据IDC、中商产业研究院,我国服务器市场规模由2019年的182亿美元增长至2022年的273.4亿美元,复合年均增长率达14.5%,预计2023年我国服务器市场规模将增至308亿美元。

9564d576-071d-11ee-962d-dac502259ad0.png

竞争格局:根据IDC发布的《2022年第四季度中国服务器市场跟踪报告Prelim》,浪潮份额国内领先,新华三次之,超聚变排行第三,中兴通讯进入前五。

目前,AIGC产业生态体系的雏形已现,呈现为上中下三层架构:①第一层为上游基础层,也就是由预训练模型为基础搭建的AIGC威廉希尔官方网站 基础设施层。②第二层为中间层,即垂直化、场景化、个性化的模型和应用工具。③第三层为应用层,即面向C端用户的文字、图片、音视频等内容生成服务。

95827fcc-071d-11ee-962d-dac502259ad0.png

回顾GPT的发展,GPT家族与BERT模型都是知名的NLP模型,都基于Transformer威廉希尔官方网站 。GPT,是一种生成式的预训练模型,由OpenAI团队最早发布于2018年,GPT-1只有12个Transformer层,而到了GPT-3,则增加到96层。其中,GPT-1使用无监督预训练与有监督微调相结合的方式,GPT-2与GPT-3则都是纯无监督预训练的方式,GPT-3相比GPT-2的进化主要是数据量、参数量的数量级提升。

未来异构计算或成为主流

异构计算(Heterogeneous Computing)是指使用不同类型指令集和体系架构的计算单元组成系统的计算方式,目前主要包括GPU云服务器、FPGA云服务器和弹性加速计算实例EAIS等。让最适合的专用硬件去服务最适合的业务场景。

在CPU+GPU的异构计算架构中,GPU与CPU通过PCle总线连接协同工作,CPU所在位置称为主机端(host),而GPU所在位置称为设备端(device)。基于CPU+GPU的异构计算平台可以优势互补,CPU负责处理逻辑复杂的串行程序,而GPU重点处理数据密集型的并行计算程序,从而发挥最大功效。

越来越多的AI计算都采用异构计算来实现性能加速。

阿里第一代计算型GPU实例,2017年对外发布GN4,搭载Nvidia M40加速器.,在万兆网络下面向人工智能深度学习场景,相比同时代的CPU服务器性能有近7倍的提升。

CPU适用于一系列广泛的工作负载,特别是那些对于延迟和单位内核性能要求较高的工作负载。作为强大的执行引擎,CPU将它数量相对较少的内核集中用于处理单个任务,并快速将其完成。这使它尤其适合用于处理从串行计算到数据库运行等类型的工作。

GPU最初是作为专门用于加速特定3D渲染任务的ASIC开发而成的。随着时间的推移,这些功能固定的引擎变得更加可编程化、更加灵活。尽管图形处理和当下视觉效果越来越真实的顶级游戏仍是GPU的主要功能,但同时,它也已经演化为用途更普遍的并行处理器,能够处理越来越多的应用程序。

95925370-071d-11ee-962d-dac502259ad0.png

AI服务器作为算力基础设备持续增长

AI服务器作为算力基础设备,其需求有望受益于AI时代下对于算力不断提升的需求而快速增长。根据TrendForce,截至2022年为止,预估搭载GPGPU(General Purpose GPU)的AI服务器年出货量占整体服务器比重近1%,预估在ChatBot相关应用加持下,有望再度推动AI相关领域的发展,预估出货量年成长可达8%;2022~2026年复合成长率将达10.8%。

AI服务器是异构服务器,可以根据应用范围采用不同的组合方式,如CPU + GPU、CPU + TPU、CPU +其他加速卡等。IDC预计,中国AI服务器2021年的市场规模为57亿美元,同比增长61.6%,到2025年市场规模将增长到109亿美元,CAGR为17.5%。

AI服务器构成及形态

AI服务器主要构成:以浪潮NF5688M6 服务器为例,其采用NVSwitch实现GPU跨节点P2P高速通信互联。整机8 颗 NVIDIAAmpere架构GPU,通过NVSwitch实现GPU跨节点P2P高速通信互联。配置 2颗第三代Intel Xeon可扩展处理器(Ice Lake),支持8块2.5英寸NVMe SSD orSATA/SASSSD以及板载2块SATA M.2,可选配1张PCIe 4.0 x16 OCP 3.0网卡,速率支持10G/25G/100G;

可支持10个PCIe 4.0 x16插槽, 2个PCIe 4.0 x16插槽(PCIe 4.0 x8速率), 1个OCP3.0插槽;支持32条DDR4RDIMM/LRDIMM内存,速率最高支持3200MT/s,物理结构还包括6块3000W 80Plus铂金电源、N+1冗余热插拔风扇、机箱等。

目前按照GPU数量的不同,有4颗GPU(浪潮NF5448A6)、8颗GPU(Nvidia A100 640GB)以及16颗GPU(NVIDIA DGX-2)的AI服务器。

95a5b2bc-071d-11ee-962d-dac502259ad0.png

AI服务器核心组件包括GPU(图形处理器)、DRAM(动态随机存取存储器)、SSD(固态硬盘)和RAID卡、CPU(中央处理器)、网卡、PCB、高速互联芯片(板内)和散热模组等。

CPU主要供货厂商为Intel、GPU目前领先厂商为国际巨头英伟达,以及国内厂商如寒武纪、海光信息等。

AI服务器竞争格局

IDC发布了《2022年第四季度中国服务器市场跟踪报告Prelim》。从报告可以看到,前两名浪潮与新华三的变化较小,第三名为超聚变,从3.2%份额一跃而至10.1%,增幅远超其他服务器厂商。Top8服务器厂商中,浪潮、戴尔、联想均出现显著下滑,超聚变和中兴则取得明显增长。其中,浪潮份额从30.8%下降至28.1%;新华三份额从17.5%下降至17.2%;中兴通讯从3.1%提升至5.3%,位居国内第5。

联想降幅最为明显,从7.5%下降至4.9%。

据TrendForce集邦咨询统计,2022年AI服务器采购占比以北美四大云端业者Google、AWS、Meta、Microsoft合计占66.2%为最,而中国近年来随着国产化力道加剧,AI建设浪潮随之增温,以ByteDance的采购力道最为显著,年采购占比达6.2%,其次紧接在后的则是Tencent、Alibaba与Baidu,分别约为2.3%、1.5%与1.5%。

国内AI服务器竞争厂商包括:浪潮信息、新华三、超聚变、中兴通讯等。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10863

    浏览量

    211773
  • 服务器
    +关注

    关注

    12

    文章

    9160

    浏览量

    85423
  • 人工智能
    +关注

    关注

    1791

    文章

    47279

    浏览量

    238508

原文标题:服务器:计算产业链及竞争格局

文章出处:【微信号:架构师威廉希尔官方网站 联盟,微信公众号:架构师威廉希尔官方网站 联盟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NTP服务器在云计算中的作用

    在云计算的快速发展中,时间同步成为了一个不可忽视的问题。随着数据中心的全球分布,以及对服务连续性和数据一致性的高要求,精确的时间同步变得尤为重要。网络时间协议(NTP)服务器作为实现这一
    的头像 发表于 12-18 15:19 244次阅读

    什么是云服务器

    服务器(Cloud Server),又称云主机或弹性计算服务(Elastic Compute Service, ECS),是基于云计算威廉希尔官方网站 提供的一种虚拟化
    的头像 发表于 09-27 09:34 243次阅读

    服务器:引领未来计算的强大引擎

    一、云服务器的基本概念 云服务器是一种基于云计算威廉希尔官方网站 的虚拟服务器。其工作原理是通过虚拟化威廉希尔官方网站 将物理服务器的硬件资源(如 CPU、内存、存储等
    的头像 发表于 08-14 14:16 805次阅读

    智能边缘服务器 --开启计算新时代

    一、智能边缘服务器概念 云尚通信威廉希尔官方网站 (深圳)有限公司 智能边缘服务器是一种新型的计算设备,它被部署在网络边缘,靠近数据源和终端用户。与传统服务器相比,其独特之处在于能够更快速地处理和响
    的头像 发表于 08-13 11:01 321次阅读
    智能边缘<b class='flag-5'>服务器</b> --开启<b class='flag-5'>计算</b>新时代

    AI云服务器:开启智能计算新时代

    一、AI云服务器的定义与特点 AI云服务器的定义 AI云服务器是一种基于云计算威廉希尔官方网站 ,专为处理人工智能相关工作负载而构建的服务器。它集成了强大
    的头像 发表于 08-09 16:08 875次阅读

    ai服务器是什么架构类型

    AI服务器,即人工智能服务器,是专门为人工智能应用设计的高性能计算服务器。AI服务器的架构类型有很多种,以下是一些常见的架构类型: CPU架
    的头像 发表于 07-02 09:51 1073次阅读

    服务器和虚拟服务器的区别是什么

    。 定义 云服务器(Cloud Server)是一种基于云计算威廉希尔官方网站 的虚拟服务器,它通过虚拟化威廉希尔官方网站 将物理服务器的资源分割成多个独立的虚拟服务器
    的头像 发表于 07-02 09:48 819次阅读

    华为云函数工作流:引领未来无服务器计算时代

    在当今数字化飞速发展的时代,企业和个人对于计算资源的需求越来越高,但传统的服务器架构带来的管理成本和资源浪费问题也愈发凸显。为解决这一难题,华为云引领着无服务器计算的浪潮,推出了函数工
    的头像 发表于 05-27 10:50 362次阅读
    华为云函数工作流:引领未来无<b class='flag-5'>服务器</b><b class='flag-5'>计算</b>时代

    鸿海强化北美AI服务器产能,深化产业链布局

    鸿海旗下负责服务器制造的工业富联董事长郑弘孟曾表示,鸿海集团已整合了AI产业链上下游,并在全球各大重要区域设有生产基地,这使其不仅能更好地满足客户需求,增强客户粘性,同时也能在AI产业链中占据主导地位。
    的头像 发表于 05-23 09:03 483次阅读

    RISC-V在服务器方面应用与发展前景

    RISC-V在服务器方面的应用与发展前景十分广阔。作为一种开源、开放、简洁、灵活的指令集,RISC-V近年来在芯片产业中发展迅速,并逐渐引领新一轮处理芯片威廉希尔官方网站 与产业的变革浪潮。 在
    发表于 04-28 09:04

    RISC-V在服务器方面的应用与发展前景如何?刚毕业的学生才开始学来的及吗?

    RISC-V在服务器方面的应用与发展前景十分广阔。作为一种开源、开放、简洁、灵活的指令集,RISC-V近年来在芯片产业中发展迅速,并逐渐引领新一轮处理芯片威廉希尔官方网站 与产业的变革浪潮。 在
    发表于 04-28 08:49

    服务器的特点

    服务器是一种基于云计算威廉希尔官方网站 的服务器服务,它提供了可灵活扩展的计算资源和环境。Rak部落小编为您整理发布云
    的头像 发表于 04-09 09:30 434次阅读

    2024年小米汽车产业链分析及新品上市全景洞察报告

    2024年小米汽车产业链分析及新品上市全景洞察报告 *附件:小米汽车全面洞察报告.pdf 本文主要介绍了小米汽车在市场中的布局和优势,以及其面临的劣势与挑战。小米汽车凭借品牌、威廉希尔官方网站 和成本三大核心优势
    发表于 03-29 13:46

    linux服务器和windows服务器

    ,Linux服务器表现出更好的性能和稳定性,因此广泛应用于科学计算、大数据处理和网络服务器等领域。 另一方面,Windows服务器是由微软开发和维护的
    发表于 02-22 15:46

    gpu服务器是干什么的 gpu服务器与cpu服务器的区别有哪些

    gpu服务器是干什么的 gpu服务器与cpu服务器的区别 GPU服务器是一种专门用于处理图形运算的服务器,而CPU
    的头像 发表于 01-30 15:31 869次阅读