微软已经为深度学习优化库 DeepSpeed 申请了商标保护。该商标于2020年12月8日提交,其中提到“为人工智能处理和深度学习提供临时使用的在线不可下载的计算机软件”,这表明微软可能在考虑通过在线云服务提供 DeepSpeed。
该库于今年 2 月发布,可以在适度的硬件上训练大规模的人工智能模型。它只需要使用 800 块 Nvidia V100 显卡就可以创建具有万亿参数的深度学习模型,是目前世界上最大的模型的 5 倍多。如果没有DeepSpeed,同样的任务需要 4000 块 Nvidia A100(性能比 V100 快2.5倍),而且事件缩短了 100 多天。
在 GPT-3 显示模型在神经网和数据集越大的情况下继续改进后,这个工具特别有用。然而,这确实有可能将最新的创新推到资源较少的小型团队的范围之外,但DeepSpeed已经允许这些团队以最小的硬件与更大的服务竞争。转移到云处理可能会使大型模型AI训练更容易获得。
责任编辑:haq
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
微软
+关注
关注
4文章
6591浏览量
104033 -
人工智能
+关注
关注
1791文章
47211浏览量
238306 -
云服务
+关注
关注
0文章
819浏览量
38909
发布评论请先 登录
相关推荐
通过工业智能网关实现与微软Azure IoT中心快速配置操作
微软Azure IoT 中心是一个基于Azure云服务构建的端到端IoT SaaS(软件及服务)平台,可以为企业及个人用户提供实现灵活、轻松
美国的云服务器什么价格能买到?
美国云服务器价格因配置、地理位置、服务商等因素而异,月租费用大致在10美元至数百美元不等,年租费用则在120美元至数千美元之间。基础配置月租可能在20至50美元,高性能配置则高达数百美
新加坡云主机需要考虑哪些方面
新加坡云主机是指部署在新加坡的云计算主机服务,它能够提供高度安全、可控和定制化的计算资源,满足企业和个人特定需求。新加坡作为东南亚一个重要的经济和科技中心,拥有良好的基础设施和网络连接
是否有可能在软件中重新配置XMC4800的两个MII端口,使其用于E-BUS通信?
。
(摘自https://www.ethercat.org/download/documents/ESC_Overview.pdf)
是否有可能在软件中重新配置 XMC4800 的两个 MII 端口,使其用于 E-BUS 通信,还是这一配置已在硬件中固定,因此无法更改?
发表于 07-19 07:02
CYUSB2014-BZXC是否有可能在固件上更改逻辑插座和EP之间的对应关系?
我对 CYUSB2014-BZXC 有疑问。
是否有可能在固件上更改逻辑插座和 EP 之间的对应关系? 如果是这样,您能告诉我应该参考哪些示例代码吗?
发表于 07-03 07:54
微软或成英伟达最大间接客户
瑞银的一份最新报告揭示,微软可能在英伟达的客户名单中占据举足轻重的地位。报告预测,微软有望成为英伟达最大的间接客户,占据该芯片制造商2024财年收入的近五分之一,即19%。
微软将采用AMD AI芯片以替代英伟达,为云计算提供更优解决方案
微软将大规模采用AMD的旗舰产品MI300X,并通过Azure云计算平台向用户提供计算集群服务。鉴于Nvidia的H100和H200芯片供应
通过STM32+ESP8266 Wifi模块 +云服务器,做一个数据收发控制的板子云服务器方面该如何选择?
通过STM32+ESP8266 Wifi模块 +云服务器 做一个数据收发控制的板子
云服务器方面该如何选择?
发表于 04-25 08:16
PSoC4是否有可能在引导加载程序中将WCO延迟缩短到500毫秒?
大是否有可能在引导加载程序的以下功能中将 WCO 延迟缩短到 500 毫秒?
static void ClockSetup(void){/* Set Flash Cycles based
发表于 01-30 06:28
评论