0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Graphcore发布基于IPU开发者云,适用于AI模型的训练和推理

牵手一起梦 来源:中电网 作者:佚名 2020-07-09 14:28 次阅读

7月8日消息,Graphcore今日正式发布基于IPU的开发者云,面向中国的客户、大学、研究机构和个人研究者免费使用,使得前沿的机器智能创新者可以轻松获取IPU进行前沿AI模型的云端训练与推理,从而在新的一波机器智能浪潮中取得关键突破。该开发者云是中国首款IPU开发者云,部署在金山云上,使用了IPU PCIe卡适配完成的浪潮NF5568M5服务器和戴尔DSS8440服务器。

中国众多的机器智能创新者活跃在各个AI领域的世界前端,通过IPU开发者云,前沿机器智能创新者可以快速便捷地获取IPU云,避开自建机房或者申购IPU服务器等繁琐内部流程,专注于在IPU上快速运行自己的AI模型结果。

“我们在与创新者交流时,很多创新者想要使用IPU来运行自己的算法模型,以期获得更好的运行结果,但受制于各种条件限制,难以达成。”Graphcore高级副总裁兼中国区总经理卢涛表示,“因此我们推出了IPU开发者云,开发者们可以很方便地使用IPU进行训练与推理任务,探索自己的算法模型的极致表现,并且它是免费的,我们的本地工程支持团队还会和开发者们一同制定工程计划,全程提供咨询与支持。”

开发者在运行先进的AI算法模型时,最常遇到两大困扰:一是他们将要求提供给算力平台部门时,经常得到的反馈是GPU目前不能够支持他们想要的低时延和高吞吐量;二是他们的算法模型在GPU上跑的速度非常慢,经常产生有可能是算法本身问题的误导。这是由于GPU从来不是为了满足机器学习的计算需求而设计的。而与当今的CPU和GPU完全不同,Graphcore从零设计的IPU是一种高度灵活、易于使用的并行处理器,专门适用于算力密集型的机器学习和深度学习任务,能在目前用于训练和推理的机器智能模型上实现最先进的性能。

借助IPU开发者云,创新者可以使自己的算法任务直达IPU,避开传统硬件的限制陷阱,使得自己的算法模型不用因硬件受阻而妥协。创新者们可以在IPU上最大程度地释放算法模型的潜能,使结果值抵达最优,并在IPU上探索更多的可能性,全方位触发创新。

• 对于商业客户来说,在较短的时间内(通常为三周或者按需适度延长),可以通过IPU极大优化现有模型,了解到模型现在及未来的性能提升空间,从而迅速行动,早竞争对手一步实现产品化和市场化,获得最大时间窗口优势,赢取市场先机。

• 大学、研究机构和个人研究者可以在较长的时间内(通常为6个月)免费访问,直至完成研究项目并发表结果。在IPU上,用于研究的算法模型得以极大优化,充分释放潜能,帮助缩短研究成果面世的时间,并触发新的研究方向,探索新领域。

• 专注于在机器智能方面取得新突破以扩大人类潜能的研究者可获得优先访问使用权。另外,全球范围内正在进行COVID-19相关研究的机构和个人可以获得最先使用权。

在收到使用请求并完成评估后,Graphcore工程团队会和商业客户、大学和研究者一起制定开发计划和使用周期,并全程提供威廉希尔官方网站 咨询和支持。

Graphcore IPU开发者云使用了金山云提供的托管服务,金山云独特灵活的云物理机服务可以使Graphcore布置多种机型,目前已上线IPU PCIe卡配置完成的浪潮NF5568M5服务器和戴尔DSS8440服务器。如使用者有本地测试需求,金山云还会将机器运送到使用者本地配合测试,之后再返还数据中心。这为使用IPU的开发者提供了极高的灵活度、极大的创新空间和很好的本地威廉希尔官方网站 支持。

金山云合伙人刘涛先生表示:“很高兴Graphcore IPU开发者云入驻金山云,期望看到越来越多的开发者在IPU开发者云上实现AI模型加速创新。金山云将和Graphcore共同为广大开发者提供助力,推动AI应用的产业化落地。”

IPU开发者云适用于先进和复杂的AI模型的训练和推理,按照场景大致分为五类:

1. 自然语言处理类,比如BERT;

2. 高级计算机视觉应用类,即以分组卷积为代表的一些机器视觉类的应用,比如ResNeXt、EfficientNet、ResNet;

3. 时序分析类,比如LSTM、RNN、GRU等大量应用于语音应用、广告推荐、金融算法等模型;

4. 排名与推荐类,比如Deep Autoencoder;

5. 概率模型,比如MCMC等用于算法交易的模型;

除了上述模型,IPU还非常适合在稀疏化的应用场景里进行前沿探索。

为了更好地赋能中国AI创新者,配合开发者云,Graphcore的创新社区现已全面正式上线,社区平台包含微信、知乎、微博以及Graphcore即将上线的中文创新社区网站。创新者们可以在自己常用的社交平台上轻松向Graphcore全球的科学家提问,获取IPU硬件产品与软件更新的最新资讯、阅读深度威廉希尔官方网站 文章、并与其他创新者们一起交流成长。

“在中国建立IPU开发者云,是Graphcore对于中国创新社区的承诺。Graphcore积极拥抱中国的AI生态系统,通过IPU开发者云的免费使用和源源不断的知识输出,赋能尖端AI创新者,从而将中国最具有创新能力和求知精神的机器智能创新者们汇聚在一起,共同在社区中探索与收获。”Graphcore高级副总裁兼中国区总经理卢涛表示。

Graphcore联合创始人兼CEO Nigel Toon表示:“Graphcore非常专注于中国市场。机器智能方面的许多新突破将非常适用于中国客户和研究机构。通过为进行AI研究的创新者免费提供云计算中的IPU支持以及运营在中国的创新社区,我们可以支持中国最具创新精神的人才解决世界上最棘手的AI问题。”

责任编辑:gt

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    12

    文章

    9222

    浏览量

    85605
  • AI
    AI
    +关注

    关注

    87

    文章

    31054

    浏览量

    269406
  • PCIe
    +关注

    关注

    15

    文章

    1241

    浏览量

    82760
收藏 人收藏

    评论

    相关推荐

    大语言模型开发框架是什么

    大语言模型开发框架是指用于训练推理和部署大型语言模型的软件工具和库。下面,
    的头像 发表于 12-06 10:28 136次阅读

    云端AI开发者工具怎么用

    云端AI开发者工具通常包括代码编辑器、模型训练平台、自动化测试工具、代码管理工具等。这些工具不仅降低了AI
    的头像 发表于 12-05 13:31 144次阅读

    AI模型训练数据来源分析

    学术机构、政府组织或企业公开发布,涵盖了各种类型的数据,如图像、文本、音频、视频等。例如: ImageNet :一个广泛用于图像识别任务的大规模图像数据集。 Common Crawl :提供了大量的网页抓取数据以供自然语言处理模型
    的头像 发表于 10-23 15:32 729次阅读

    多项AI新成果发布,涂鸦智能引领全球开发者共绘GenAI发展蓝图

    9月25日,在TUYA全球开发者大会上,涂鸦智能发布了搭载AI模型的“小智管家”和全面革新的园区能源管理平台,并宣布正式成立亚太首个GenAI硬件工作组,为全球
    的头像 发表于 09-27 10:00 550次阅读
    多项<b class='flag-5'>AI</b>新成果<b class='flag-5'>发布</b>,涂鸦智能引领全球<b class='flag-5'>开发者</b>共绘GenAI发展蓝图

    NVIDIA RTX AI套件简化AI驱动的应用开发

    NVIDIA 于近日发布 NVIDIA RTX AI套件,这一工具和 SDK 集合能够帮助 Windows 应用开发者定制、优化和部署适用于 Windows 应用的
    的头像 发表于 09-06 14:45 464次阅读

    涂鸦引领开发AI浪潮,实用给力的三大开发者工具全新发布

    目前,AI浪潮在开发领域的发展势头汹涌澎湃,其正以前所未有的速度席卷、重塑着各行业的面貌,引领了一场效率与创新的双重革命。涂鸦开发者平台
    的头像 发表于 08-30 12:27 244次阅读
    涂鸦引领<b class='flag-5'>云</b><b class='flag-5'>开发</b><b class='flag-5'>AI</b>浪潮,实用给力的三大<b class='flag-5'>开发者</b>工具全新<b class='flag-5'>发布</b>!

    亚马逊科技连续5年位列GartnerAI开发者服务魔力象限领导

    北京2024年7月3日 /美通社/ -- 日前,Gartner®发布了2024年《AI开发者服务魔力象限》报告[1],亚马逊科技被列为"
    的头像 发表于 07-04 04:55 680次阅读

    英伟达推出AI模型推理服务NVIDIA NIM

    英伟达近日宣布推出一项革命性的AI模型推理服务——NVIDIA NIM。这项服务将极大地简化AI模型部署过程,为全球的2800万英伟达
    的头像 发表于 06-04 09:15 689次阅读

    NVIDIA将全球数百万开发者转变为生成式 AI 开发者

    和测试   NVIDIA 于今日宣布,全球 2,800 万开发者现可下载NVIDIA NIM——一种推理微服务,通过经优化的容器的形式提供模型——以部署在、数据中心或工作站上。借助
    的头像 发表于 06-03 18:21 1047次阅读

    NVIDIA NIM 革命性地改变模型部署,将全球数百万开发者转变为生成式 AI 开发者

    来自 AI 生态系统各个领域的 150 余家合作伙伴嵌入了 NIM 推理微服务,将企业级 AI 应用的部署时间从数周缩短至几分钟 NVIDIA 开发者计划会员可免费使用 NIM 来进行
    发表于 06-03 09:12 236次阅读
    NVIDIA NIM 革命性地改变<b class='flag-5'>模型</b>部署,将全球数百万<b class='flag-5'>开发者</b>转变为生成式 <b class='flag-5'>AI</b> <b class='flag-5'>开发者</b>

    2024 TUYA全球开发者大会盛大启幕,Cube AI模型重磅首发!

    2024TUYA全球开发者大会上,重磅推出AI模型AI开发工具、AI小程序
    的头像 发表于 05-31 08:15 374次阅读
    2024 TUYA全球<b class='flag-5'>开发者</b>大会盛大启幕,Cube <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>重磅首发!

    2024 TUYA全球开发者大会盛大启幕,Cube AI模型重磅首发!

    2024 TUYA全球开发者大会上,重磅推出AI模型AI开发工具、AI小程序
    发表于 05-30 09:13 234次阅读
    2024 TUYA全球<b class='flag-5'>开发者</b>大会盛大启幕,Cube <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>重磅首发!

    开发者手机 AI - 目标识别 demo

    功能简介 该应用是在Openharmony 4.0系统上开发的一个目标识别的AI应用,旨在从上到下打通Openharmony AI子系统,展示Openharmony系统的AI能力,并为
    发表于 04-11 16:14

    【转载】英特尔开发套件“哪吒”快速部署YoloV8 on Java | 开发者实战

    OpenVINO 工具套件基于OneAPI开发,可以加快高性能计算机视觉和深度学习应用开发速度的工具套件,适用于从边缘到的各种英特尔计算平台上,帮助用户更快地将更准确的真实世界数据的
    的头像 发表于 03-23 08:05 588次阅读
    【转载】英特尔<b class='flag-5'>开发</b>套件“哪吒”快速部署YoloV8 on Java | <b class='flag-5'>开发者</b>实战

    安霸发布前端AI开发者平台Cooper

    在2024年的国际消费电子展(CES)上,Ambarella(安霸)发布了一项革命性的威廉希尔官方网站 ——业界领先的Cooper开发者平台。Cooper平台不仅集成了软件、硬件和先进的AI模型优化
    的头像 发表于 01-12 17:35 1200次阅读