魔幻的2020年,IT基础架构遭遇重大挑战。新冠疫情下,不得已保持的社交距离对生活、工作带来了彻底改变,从在线购物、文娱、社交,到工作、学习,人们对网络的依赖几乎遍布生活的方方面面。
算力成为当前的刚需,重度依赖之下,支撑起网络的整个基础设施正在发生重构。晶体管不是终极解决方案,眼下最重要的,是让算力资源可分配、可调度。由软件虚拟化威廉希尔官方网站 带来的改变立竿见影,虚拟化GPU有望加速走向规模应用。
NVIDIA中国区高级威廉希尔官方网站 市场经理施澄秋告诉<电子发烧友>,桌面虚拟化是同样的道理。传统的实体计算设备(例如台式电脑,笔记本电脑或服务器)使用GPU执行复杂的运算流程,例如运行3D应用程序或视频直播。但是对于远程办公的专业人员来说,这并不是理想之选,因为GPU与实体设备绑定会限制移动性和灵活性。许多远程工作的用户,可能没有一个性能、储存容量都非常强大的本地设备,所以需要把应用程序、甚至桌面都推到云端及虚拟化产品上。
NVIDIA方面预测,今年在疫情的情况下,虽然由于实体渠道的种种限制或法律条规的管控,零售、实体行业对于GPU的需求可能略微降低,但此消彼涨,数据中心的需求会更显旺盛,企业端对于GPU的需求,可能比以往更猛烈。
判断依据是,当前情况下,企业会前所未有地重视在数据中心或公有云的GPU部署,因为越来越多的应用会迁移到云端虚拟化的工作场景中。无论是企业内部还是给企业客户应用,都有越来越多的图形图象依赖性。尤其是5G普及之后,用户需求更多元化、对质量要求更高,也许传统情况下提供一张图就行,未来要提供动画;或是以前提供简单的动画就可以,未来要提供电影级渲染的动画。远程办公虚拟化是一个比较重要的解决思路,它可以帮助人们在远程办公时还能享受到GPU加速的便利性。
虚拟机存在已久,为什么过去只虚拟化了CPU而没有GPU?施澄秋表示,主要是用户没有认识到必要性。就像过去相当长时间存在的用集显的笔记本电脑,NVIDIA通过种种演示和案例证明了“有GPU相对于没有GPU可以带来生产力的提升”,今天广大用户终于体会到了独显的重要性。虚拟机用户也是如此,以为有了虚拟桌面可以跑企业的各种应用就好了,有CPU足以,但是发现跑起来慢如蜗牛,于是虚拟化GPU的需求就理所当然的体现出来了。
黄仁勋在众多场合“带货GPU”时都提到过,“你买的越多,你省的越多。”施澄秋认为这不是一个玩笑,也不是一个梗,是NVIDIA实实在在帮助用户节约IT投资的一个真实举措。无论是AI、interwetten与威廉的赔率体系 、渲染,都能够相较于传统的CPU节点服务器,给用户节约大量的成本。因此他建议,不仅要有虚拟化的CPU,更重要的是要有虚拟化的GPU,可以帮助用户在虚机上体验到以前实体工作站、实体超算的PC工作站或者实体的图形工作站上都能享受到的GPU加速的性能。
(1)NVIDIA GRID虚拟PC/应用程序:面向知识工作者,通过GPU为远程用户提供虚拟化系统和应用程序,能提供与有独显的实体电脑相似的性能,实现响应级虚拟桌面基础架构(VDI),最大限度优化图表、视频等典型办公应用。
(2)NVIDIA Quadro虚拟数据中心工作站(Quadro vDWS):面向使用高级图形应用程序的创作者和威廉希尔官方网站 专业人员,从数据中心提供工作站级的GPU加速性能,有助于分散在各地的团队进行协作,通过任意设备实时安全地访问应用程序和数据。
以前做虚拟化威廉希尔官方网站 ,只能把一个GPU虚拟成多个GPU给很多个用户去使用。但今天可以反向虚拟化这个GPU,把多个物理的GPU虚拟成一个更大、更强劲的GPU给一个特定的用户使用。也就是说,可以分散GPU负载、也可以堆叠,也可以快速、大规模共享数据,而这些数据全部可以提供给用户最新、前端的、用户端的需求。比如10比特的色彩精度支持,以前需要一个专业的Quadro图形工作站配合显示设备才可以实现,但是现在Quadro vDWS就可以做到。
从性能来看,如果使用8个Quadro RTX 8000显卡搭配Quadro vDWS软件,算力可提升至CPU的16倍,能大幅减少渲染时间。
从生态来看,Quadro vDWS现支持主流的ISV应用程序及管理监控工具,可从NVIDIA经认证的服务器方案中获取。
(3)NVIDIA Virtual Compute Server软件:数据中心管理员可以在虚拟环境中的GPU服务器上运行AI工作负载,通过GPU加速服务器虚拟化,支持AI、深度学习、数据科学和高性能计算服务器虚拟化。
借助NVIDIA Virtual Compute Server (vComputeServer),用户可以获得运行这些工作负载所需的GPU加速性能。数据中心管理员可以在虚拟环境中的GPU服务器上运行AI工作负载,进一步提升了计算的安全性、利用率和可管理性。IT管理员能够让GPU加速虚拟化服务器的管理变得更为简单,同时还能保留现有的工作负载,并降低总体运营成本。与仅使用CPU的服务器相比,基于4颗NVIDIA V100 GPU的vComputeServer将深度学习的速度提高了50倍,性能接近于裸机水平。
在云端、企业数据中心以及传统台式机、移动工作站,NVIDIA Quadro均可实现设计和工程应用的加速。据悉,全球90%的专业工作站均由英伟达Quadro提供加速能力。
施澄秋介绍,移动、远程需求下,应运而生的还有NVIDIA RTX Studio,其品牌承诺就是做一个开放式的平台,采用Windows架构,是一个标准的可以安装所有超过数百款已有的ISV程序的情况下。NVIDIA RTX Studio可以让创意和设计用户在超过200款RTX产品上利用GPU加速渲染,其中又有45款可以利用RTX威廉希尔官方网站 、最新一代NVIDIA威廉希尔官方网站 里的各式各样的核心,帮助他们做应用程序的加速,包括AI应用程序和实时光线追踪。
此外还有NVIDIA RTX SERVER虚拟化威廉希尔官方网站 。这个威廉希尔官方网站 是在多个NVIDIA Quadro RTX GPU的基础上,堆叠大量GPU,借助GPU共享,单个GPU可以为多个虚拟机提供动力,最大程度地提高利用率和负载能力,满足从AI和深度学习到数据科学和高性能计算的需求。
由于疫情原因,NVIDIA一年一度的GTC大会改成了线上的模式。这意味着,数百场的威廉希尔官方网站 演讲、威廉希尔官方网站 展示、案例演示,甚至包括帮助用户上手实操的模拟实验室的环境,都需要在云端上进行搭建。这一系列在云端的讲堂、实验室就是典型的分布式远程移动工作和大规模用户同时去存取云端资源的一个案例,也是一个远程办公的体验。
针对上述问题,NVIDIA提出了全新的解决方案。在Quadro RTX以及硬件上做了全新一代的升级,最大可以支持实时8K的RED格式的加密和解密。当然,这还要依赖于网络跳转路由节点和整个延迟的降低,这都需要全方位的强化。施澄秋指出,国内正大规模地普及5G,所以这个痛点也会得到较好的解决,今天把GPU虚拟化到桌面,可能比以往更容易。
由于5G的普及,移动办公的便利性得到提升,桌面虚拟化的需求一定比以往更为兴盛。施澄秋认为,企业虚拟化GPU的侧重点主要是:便于大规模部署、便于大规模实时在线热迁移和热管理,因此他们会更大程度上考虑可管理性、易用性和可扩展性。
至于大规模的虚拟化部署会不会影响到NVIDIA实体GPU的使用?施澄秋认为,二者始终是相辅相成的。不论是云端还是实体端、不论是远端是本地端,GPU的需求始终旺盛。也可以由此反推到用户的使用习惯,今天的用户大部分都不只有一个电子设备。就像双卡双待手机的发展,今天几乎99%的手机具备这一功能,就连苹果也做双卡双待了,这主要由用户需求的多样性决定的。NVIDIA认为本地的GPU需求,不会因为虚拟化GPU极速降低,会持续在两条线上耕耘下去。
NVIDIA在此时加大虚拟化GPU的投入力度,再一次实现了从单纯的硬件产品向提供服务的方式进行转变,这也符合NVIDIA一直以来软件化的发展路线。
套用微信小程序的成功逻辑,当网络带宽不再成为限制的前提下,即使在配置不够高的桌面端,也能进行高算力的工作或娱乐,这将是GPU未来的重要应用场景。
本文由电子发烧友网原创,未经授权禁止转载。如需转载,请添加微信号elecfans999.
算力成为当前的刚需,重度依赖之下,支撑起网络的整个基础设施正在发生重构。晶体管不是终极解决方案,眼下最重要的,是让算力资源可分配、可调度。由软件虚拟化威廉希尔官方网站 带来的改变立竿见影,虚拟化GPU有望加速走向规模应用。
企业端对GPU的需求将比以往更强烈
为什么远程办公需要“桌面虚拟化”或“应用程序虚拟化”?借用微信小程序来理解,就是将应用程序推到云端,在手机上虚拟化一个界面,通过小程序连网就可以使用,而无需在本地安装APP。尽管智能手机已经非常普及了,但是硬件配置千差万别,小程序对于存储能力不是很强的手机,带来的体验改善是显而易见的。NVIDIA中国区高级威廉希尔官方网站 市场经理施澄秋告诉<电子发烧友>,桌面虚拟化是同样的道理。传统的实体计算设备(例如台式电脑,笔记本电脑或服务器)使用GPU执行复杂的运算流程,例如运行3D应用程序或视频直播。但是对于远程办公的专业人员来说,这并不是理想之选,因为GPU与实体设备绑定会限制移动性和灵活性。许多远程工作的用户,可能没有一个性能、储存容量都非常强大的本地设备,所以需要把应用程序、甚至桌面都推到云端及虚拟化产品上。
NVIDIA方面预测,今年在疫情的情况下,虽然由于实体渠道的种种限制或法律条规的管控,零售、实体行业对于GPU的需求可能略微降低,但此消彼涨,数据中心的需求会更显旺盛,企业端对于GPU的需求,可能比以往更猛烈。
判断依据是,当前情况下,企业会前所未有地重视在数据中心或公有云的GPU部署,因为越来越多的应用会迁移到云端虚拟化的工作场景中。无论是企业内部还是给企业客户应用,都有越来越多的图形图象依赖性。尤其是5G普及之后,用户需求更多元化、对质量要求更高,也许传统情况下提供一张图就行,未来要提供动画;或是以前提供简单的动画就可以,未来要提供电影级渲染的动画。远程办公虚拟化是一个比较重要的解决思路,它可以帮助人们在远程办公时还能享受到GPU加速的便利性。
虚拟机存在已久,为什么过去只虚拟化了CPU而没有GPU?施澄秋表示,主要是用户没有认识到必要性。就像过去相当长时间存在的用集显的笔记本电脑,NVIDIA通过种种演示和案例证明了“有GPU相对于没有GPU可以带来生产力的提升”,今天广大用户终于体会到了独显的重要性。虚拟机用户也是如此,以为有了虚拟桌面可以跑企业的各种应用就好了,有CPU足以,但是发现跑起来慢如蜗牛,于是虚拟化GPU的需求就理所当然的体现出来了。
黄仁勋在众多场合“带货GPU”时都提到过,“你买的越多,你省的越多。”施澄秋认为这不是一个玩笑,也不是一个梗,是NVIDIA实实在在帮助用户节约IT投资的一个真实举措。无论是AI、interwetten与威廉的赔率体系 、渲染,都能够相较于传统的CPU节点服务器,给用户节约大量的成本。因此他建议,不仅要有虚拟化的CPU,更重要的是要有虚拟化的GPU,可以帮助用户在虚机上体验到以前实体工作站、实体超算的PC工作站或者实体的图形工作站上都能享受到的GPU加速的性能。
虚拟GPU如何满足或轻或重、或远或近的多样化需求?
工作负载上的用户需求千差万别,NVIDIA如何去满足这些或轻或重、或近或远的需求呢?不同的NVIDIA vGPU软件许可证能够满足多种虚拟化用例的不同需求。NVIDIA将90天免费的虚拟GPU软件评估许可证从128个扩展到500个,主要提供三类专用虚拟GPU(vGPU)软件:(1)NVIDIA GRID虚拟PC/应用程序:面向知识工作者,通过GPU为远程用户提供虚拟化系统和应用程序,能提供与有独显的实体电脑相似的性能,实现响应级虚拟桌面基础架构(VDI),最大限度优化图表、视频等典型办公应用。
(2)NVIDIA Quadro虚拟数据中心工作站(Quadro vDWS):面向使用高级图形应用程序的创作者和威廉希尔官方网站 专业人员,从数据中心提供工作站级的GPU加速性能,有助于分散在各地的团队进行协作,通过任意设备实时安全地访问应用程序和数据。
以前做虚拟化威廉希尔官方网站 ,只能把一个GPU虚拟成多个GPU给很多个用户去使用。但今天可以反向虚拟化这个GPU,把多个物理的GPU虚拟成一个更大、更强劲的GPU给一个特定的用户使用。也就是说,可以分散GPU负载、也可以堆叠,也可以快速、大规模共享数据,而这些数据全部可以提供给用户最新、前端的、用户端的需求。比如10比特的色彩精度支持,以前需要一个专业的Quadro图形工作站配合显示设备才可以实现,但是现在Quadro vDWS就可以做到。
从性能来看,如果使用8个Quadro RTX 8000显卡搭配Quadro vDWS软件,算力可提升至CPU的16倍,能大幅减少渲染时间。
从生态来看,Quadro vDWS现支持主流的ISV应用程序及管理监控工具,可从NVIDIA经认证的服务器方案中获取。
(3)NVIDIA Virtual Compute Server软件:数据中心管理员可以在虚拟环境中的GPU服务器上运行AI工作负载,通过GPU加速服务器虚拟化,支持AI、深度学习、数据科学和高性能计算服务器虚拟化。
借助NVIDIA Virtual Compute Server (vComputeServer),用户可以获得运行这些工作负载所需的GPU加速性能。数据中心管理员可以在虚拟环境中的GPU服务器上运行AI工作负载,进一步提升了计算的安全性、利用率和可管理性。IT管理员能够让GPU加速虚拟化服务器的管理变得更为简单,同时还能保留现有的工作负载,并降低总体运营成本。与仅使用CPU的服务器相比,基于4颗NVIDIA V100 GPU的vComputeServer将深度学习的速度提高了50倍,性能接近于裸机水平。
虚实结合,为前沿需求注入力量和速度
通过虚拟GPU软件,搭配Quadro RTX服务器,能支持加速渲染、虚拟工作站、AI和数据科学、AR/VR、5G、CAE/Simulation、混合工作负载等各种数据中心负载的加速任务。在云端、企业数据中心以及传统台式机、移动工作站,NVIDIA Quadro均可实现设计和工程应用的加速。据悉,全球90%的专业工作站均由英伟达Quadro提供加速能力。
施澄秋介绍,移动、远程需求下,应运而生的还有NVIDIA RTX Studio,其品牌承诺就是做一个开放式的平台,采用Windows架构,是一个标准的可以安装所有超过数百款已有的ISV程序的情况下。NVIDIA RTX Studio可以让创意和设计用户在超过200款RTX产品上利用GPU加速渲染,其中又有45款可以利用RTX威廉希尔官方网站 、最新一代NVIDIA威廉希尔官方网站 里的各式各样的核心,帮助他们做应用程序的加速,包括AI应用程序和实时光线追踪。
此外还有NVIDIA RTX SERVER虚拟化威廉希尔官方网站 。这个威廉希尔官方网站 是在多个NVIDIA Quadro RTX GPU的基础上,堆叠大量GPU,借助GPU共享,单个GPU可以为多个虚拟机提供动力,最大程度地提高利用率和负载能力,满足从AI和深度学习到数据科学和高性能计算的需求。
由于疫情原因,NVIDIA一年一度的GTC大会改成了线上的模式。这意味着,数百场的威廉希尔官方网站 演讲、威廉希尔官方网站 展示、案例演示,甚至包括帮助用户上手实操的模拟实验室的环境,都需要在云端上进行搭建。这一系列在云端的讲堂、实验室就是典型的分布式远程移动工作和大规模用户同时去存取云端资源的一个案例,也是一个远程办公的体验。
5G普及,桌面虚拟化需求将更兴盛、更容易实现
施澄秋表示,虽然国内的网络带宽能力已大大增强,但是把GPU虚拟化到桌面仍是当前面临的最大问题。因为网络延迟面临着极大的挑战,每一个指令都要从本地端传到云端、再传输到实体的桌面端/客户端,现在要做的是降低延时并减少用户的等待时间。针对上述问题,NVIDIA提出了全新的解决方案。在Quadro RTX以及硬件上做了全新一代的升级,最大可以支持实时8K的RED格式的加密和解密。当然,这还要依赖于网络跳转路由节点和整个延迟的降低,这都需要全方位的强化。施澄秋指出,国内正大规模地普及5G,所以这个痛点也会得到较好的解决,今天把GPU虚拟化到桌面,可能比以往更容易。
由于5G的普及,移动办公的便利性得到提升,桌面虚拟化的需求一定比以往更为兴盛。施澄秋认为,企业虚拟化GPU的侧重点主要是:便于大规模部署、便于大规模实时在线热迁移和热管理,因此他们会更大程度上考虑可管理性、易用性和可扩展性。
至于大规模的虚拟化部署会不会影响到NVIDIA实体GPU的使用?施澄秋认为,二者始终是相辅相成的。不论是云端还是实体端、不论是远端是本地端,GPU的需求始终旺盛。也可以由此反推到用户的使用习惯,今天的用户大部分都不只有一个电子设备。就像双卡双待手机的发展,今天几乎99%的手机具备这一功能,就连苹果也做双卡双待了,这主要由用户需求的多样性决定的。NVIDIA认为本地的GPU需求,不会因为虚拟化GPU极速降低,会持续在两条线上耕耘下去。
结语
新冠疫情在全球范围的扩散,使得全球企业员工的工作模式和形态,都发生了巨大的变化。虚拟云端、虚拟客户机、虚拟工作站,甚至虚拟GPU的发展,都发生了极大变化。不论是应用程序虚拟化,还是用户桌面虚拟化,都是使得一个公司或组织,能够适应当前及未来相当长可预见的情况下基本的工作能力。NVIDIA在此时加大虚拟化GPU的投入力度,再一次实现了从单纯的硬件产品向提供服务的方式进行转变,这也符合NVIDIA一直以来软件化的发展路线。
套用微信小程序的成功逻辑,当网络带宽不再成为限制的前提下,即使在配置不够高的桌面端,也能进行高算力的工作或娱乐,这将是GPU未来的重要应用场景。
本文由电子发烧友网原创,未经授权禁止转载。如需转载,请添加微信号elecfans999.
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
gpu
+关注
关注
28文章
4741浏览量
128963 -
虚拟机
+关注
关注
1文章
917浏览量
28214 -
AI2020
+关注
关注
1文章
22浏览量
5942
发布评论请先 登录
相关推荐
《CST Studio Suite 2024 GPU加速计算指南》
- smi启用或禁用。
- 其他:还介绍了独占计算模式、显示链接、组合MPI计算和GPU计算、服务用户、GPU计算使用Windows远程桌面、运行多个模拟、视频卡驱动、操作条件、最新CST服务包、
发表于 12-16 14:25
Linux微信4.0.0版发布,功能再升级
近日,备受瞩目的Linux微信4.0.0版本终于迎来了正式发布。此次版本更新不仅带来了多项实用功能,还实现了与Windows、macOS公测版本的功能一致和更新同步,为用户带来了更加便捷
【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--了解算力芯片GPU
不同的线程束以执行不同的指令。指令调度单元负责从指令缓存中取出着色器程序中的操作指令,并将其分配给每个CUDA核心执行。
线程块的设计为 GPU编程提供了一种高效、灵活和易用的方式来组织和管理并行线程
发表于 11-03 12:55
GPU超频设置技巧
技巧: 了解你的硬件 : 在超频之前,了解你的GPU型号和规格是非常重要的。不同的GPU有不同的超频潜力。 检查GPU的默认频率和电压,以及制造商推荐的超频范围。 更新驱动程序 : 确
iPhone16不支持微信?苹果最新回应
来源:青春上海 编辑:感知芯视界 Link 有网传消息称“iPhone16可能不支持微信”,对此记者致电苹果官方热线,接线的苹果中国区威廉希尔官方网站
顾问表示,第三方言论关于iOS系统或者苹果设备能否再使用微
名单公布!【书籍评测活动NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架构分析
本期评测名单如下
xinglong01、jf_27867369、程小生、Cool
请以上几位大佬联系工作人员(微信:elecfans123)领取书籍进行评测,如在5个工作日内未联系,视为放弃本次
发表于 09-02 10:09
实测NPU“空转”,AI PC首个落地应用只调用GPU?
AI PC的一大特征是在传统PC的CPU+GPU基础上,增加NPU加强AI 算力。不过有意思的是,最近某品牌PC机型上的AI助手率先落地,支持云端和本地运算两种模式,确实能够完成宣传上
OpenAI推出ChatGPT桌面版应用程序
OpenAI 近日宣布,备受期待的 ChatGPT 桌面版应用程序现已正式发布。在官方公告中,OpenAI 表示他们首先会将这款应用提供给 Plus 用户群体,并特别针对 macOS 系统推出。这是该公司为了满足用户对更便捷、更高效交流方式的需求而采取的重要一步。
龙芯中科公布2024年3月桌面及服务器平台产品适配情况
4月29日,龙芯中科发布了2024年3月份的龙芯桌面与服务器平台产品适配信息。此次共有47家公司的101款产品完成了龙芯平台适配,其中包括了风华系列GPU以及统信桌面操作系统V20等。
PC端怎么弄一个实时的PID精调小程序?
本人新手,想在PC端写个给FOC算法里 PI(D)参数精调的桌面应用小程序,电脑和板子用USB连接,现在还没有头绪该怎么弄,还望各位前辈能给点建议,万分感谢
发表于 04-22 06:11
超微gpu服务器评测
随着科技的不断发展和进步,GPU服务器在大数据分析、深度学习、人工智能等领域正变得越来越重要。而超微GPU服务器因其出色的性能和高度定制化的优势,成为了众多企业和研究机构的首选。本文将从不同角度对超
评论