0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

华为昇腾异构计算架构CANN 助力应对AI发展新挑战!

Carol Li 来源:电子发烧友网 作者:李弯弯 2021-10-25 09:35 次阅读

电子发烧友网报道(文/李弯弯)人工智能在21世纪以后,经历了PC、互联网以及移动互联网这几波浪潮之后,又进入了新一波浪潮,从2012年人工智能神经网络取得很好的成绩开始,快速发展,预计2025年AI产业市场规模将达到7.44万亿美金,未来五年年均增长30%

近两年人工智能正从单点威廉希尔官方网站 走向真正通用威廉希尔官方网站 ,一是从大模型走向超大模型,从GPT-2的15亿参数,到GPT-3的1750亿参数,鹏程·盘古的2000亿参数,再Switch Transformer的16000亿参数。二是从单模态走向多模态。简单来说就是容量需要更大,学习的领域需要更丰富,这带来的趋势就是更智能化。


华为昇腾计算业务副总裁金颖日前在某论坛上表示,这也给人工智能的发展带来挑战:一是随着模型越来越大训练花费越来昂贵,比如GPT-3需要花费460万美金,BERT平均需花费1.5万美金;二是训练更大的模型,对算法、系统的难度要求更高,未来开发难度会加大,包括算法开发难、应用开发难、业务部署难;三是人才本就稀缺,人才缺口很大,目前中国人工智能人才供需比为10%,中国人才缺口超过500万。


金颖认为,面对上述新趋势、新挑战、新问题,异构计算架构对上适配多框架,对下适配多异构芯片,同时针对多样化应用场景,提供高效易用的编程方式,是突破AI产业平台的关键。

为此华为发布了AI全栈硬件架构,包括底层的系列硬件、芯片,以及异构计算架构,AI框架,william hill官网 等,跟绝大多数的AI硬件架构一样,其中华为昇腾AI全栈的核心是异构计算架构CANN,发挥承上启下的关键作用。AI异构计算架构CANN是华为针对AI场景推出的异构计算架构,通过提供多层次的编程接口,支持用户快速构建基于Asend平台的AI应用和业务。


CANN包含统一APP编程语言,提供一套标准的ACL编程接口,对应用程序开发者屏蔽底层多种芯片差异,提升用户APP编程易用性;统一网络构图接口,提供了标准的昇腾计算AIR,支持多框架,支持用户在昇腾芯片上快速部署神经网络业务;高性能计算引擎以及算子库,通过高性能编译引擎、执行引擎、调优引擎和预置高性能算子库,支撑客户快速部署神经网络业务、降低部署成本并最大程度发挥昇腾计算能力;以及驱动、虚拟化、媒体、集合通信等基础服务能力。


华为即将发布最新发的CANN5.0版本,通过软硬件协同,相比之前的版本性能再翻倍,该架构支持多种AI框架,包括Mindspore、TensorFlow、飞桨、Pytorch、ONNX等。而且性能还在持续提升中,金颖表示,该版本ResNet-50训练速度保持业界领先,最新的数据已经小于16s。完善生态满足度方面,亲和昇腾的图编译威廉希尔官方网站 已经超过1300高性能算子,支持ModeZoo 400+模型全面覆盖典型场景应用。

华为以开放社区的方式运营,从目前的成绩来看,CANN已经达到支持40万昇腾开发者,各项数据全面翻倍,社区已经成为开发者大本营,预计到2022年将发展到百万开发者级别。科研合作超过200家,华为与国内多所高校有很好的合作,北京大学田永鸿教授表示,使用华为人工智能全栈解决方案,在今年的MLPerf评测中之所以能够取得如此优异的成绩,其中关键因素就是CANN。

金颖表示,未来在异构计算架构领域,希望更多提供极致性能、极简开发、开放生态,推动这个产业进入各个行业贡献我们的力量,也希望未来在更多的标准领域,汇聚产业的力量,推动AI产业的发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 华为
    +关注

    关注

    216

    文章

    34417

    浏览量

    251525
  • AI
    AI
    +关注

    关注

    87

    文章

    30763

    浏览量

    268906
  • 昇腾
    +关注

    关注

    1

    文章

    135

    浏览量

    6599
收藏 人收藏

    评论

    相关推荐

    软通动力亮相福建AI产业发展论坛

    近日,福建AI产业发展论坛在厦门举办。软通动力应邀出席,并作为“福建人工智能自主创新联合体”重要成员,与华为及生态伙伴等多方机构共同宣布
    的头像 发表于 12-23 13:52 60次阅读

    【一文看懂】什么是异构计算

    随着人工智能、深度学习、大数据处理等威廉希尔官方网站 的快速发展计算需求的复杂性不断提升。传统的单一计算架构已难以满足高效处理复杂任务的要求,异构计算
    的头像 发表于 12-04 01:06 1352次阅读
    【一文看懂】什么是<b class='flag-5'>异构计算</b>?

    《算力芯片 高性能 CPUGPUNPU 微架构分析》第3篇阅读心得:GPU革命:从图形引擎到AI加速器的蜕变

    线程调度,与Hopper架构的细粒度同步机制,使得异构计算场景下的任务协同更加灵活。在我的分布式训练实践中,这些特性显著提升了模型收敛速度。 张量处理器的设计是本书点睛之笔。从数学抽象来看,张量统一了
    发表于 11-24 17:12

    系列双处理边缘计算盒子DA500I,打造高效低延迟的视觉推理解决方案

    时效率较低,容易出现性能瓶颈,导致延迟增大;而GPU虽然在图像处理上表现优秀,但功耗较高且不能灵活应对多样化任务。 为应对这一挑战,英码科技推出
    的头像 发表于 11-14 14:45 225次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b>系列双处理边缘<b class='flag-5'>计算</b>盒子DA500I,打造高效低延迟的视觉推理解决方案

    思原生,助力智谱打造自主创新大模型体系!

    自从全面启动原生开发,越来越多的生态伙伴选择,大模型生态从“应用迁移”走向“原生开发”,充分依托
    的头像 发表于 08-20 18:29 435次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b>与<b class='flag-5'>昇</b>思原生,<b class='flag-5'>助力</b>智谱打造自主创新大模型体系!

    异构计算:解锁算力潜能的新途径

    在这个数据爆炸的时代,计算力是推动社会与科技创新的核心。从日常智能设备的流畅运行到超级计算机的尖端模拟,均依赖强大的计算能力。但面对多样化的复杂计算任务,单一处理器难以胜任。于是,
    的头像 发表于 07-18 08:28 7823次阅读
    <b class='flag-5'>异构计算</b>:解锁算力潜能的新途径

    基于AI Yolov7模型迁移到平台EA500I边缘计算盒子的实操指南

    科技携手推出了一系列边缘计算产品,具备性能强劲、更宽工温、外设接口丰富、利旧性强等特点,同时,得益于
    的头像 发表于 06-26 17:51 625次阅读
    基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>  Yolov7模型迁移到<b class='flag-5'>昇</b><b class='flag-5'>腾</b>平台EA500I边缘<b class='flag-5'>计算</b>盒子的实操指南

    华为AI云服务可适配100多个大模型

    在近日举办的华为开发者大会2024上,华为常务董事、华为云CEO张平安向全球开发者们宣布了一项重大进展——华为
    的头像 发表于 06-24 10:49 741次阅读

    如何基于OrangePi AIpro开发AI推理应用

    。通过CANN软件栈的AI编程接口,可满足大多数AI算法原型验证、推理应用开发的需求。AscendCL(AscendComputingL
    的头像 发表于 06-04 14:23 525次阅读
    如何基于OrangePi AIpro开发<b class='flag-5'>AI</b>推理应用

    华为发布会大模型翻车?社区回应!

    针对网传华为发布会大模型生成图片疑人工操控的消息,社区回应:5月10日,在鲲鹏腾开发者大会的一场威廉希尔官方网站 讨论上,演示了mxRAG SDK功能。
    的头像 发表于 05-16 14:14 615次阅读
    <b class='flag-5'>华为</b>发布会大模型翻车?<b class='flag-5'>昇</b><b class='flag-5'>腾</b>社区回应!

    润和软件基于华为AI所打造的IntelliCore AI解决方案一体机

    江苏润和软件股份有限公司(以下简称“润和软件”)基于华为AI所打造的IntelliCore AI解决方案一体机,提供全方位的
    的头像 发表于 05-09 09:18 997次阅读
    润和软件基于<b class='flag-5'>华为</b><b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>所打造的IntelliCore <b class='flag-5'>AI</b>解决方案一体机

    基于AI | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

    现如今,人工智能迅猛发展AI赋能产业发展的速度正在加快,“AI+”的需求蜂拥而来,但AI应用快速落地的过程中仍存在很大的
    的头像 发表于 05-01 08:26 666次阅读
    基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b> | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

    基于AI | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

        现如今,人工智能迅猛发展AI赋能产业发展的速度正在加快,“AI+”的需求蜂拥而来,但AI应用快速落地的过程中仍存在很大的
    的头像 发表于 04-26 08:38 406次阅读
    基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b> | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

    【威廉希尔官方网站 干货】教你如何基于华为CANN架构快速实现模型推理应用

            AI全软件栈平台、开源框架、CANN、MindSpore、MindX 等工具,可以让开发者实现「统一端边云,全端自动部署」,开启了机器学习开发的新时代,一直被人们
    的头像 发表于 03-08 08:36 1768次阅读
    【威廉希尔官方网站
干货】教你如何基于<b class='flag-5'>华为</b><b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>CANN</b><b class='flag-5'>架构</b>快速实现模型推理应用

    高通NPU和异构计算提升生成式AI性能 

    异构计算的重要性不可忽视。根据生成式AI的独特需求和计算负担,需要配备不同的处理器,如专注于AI工作负载的定制设计的NPU、CPU和GPU。
    的头像 发表于 03-06 14:15 783次阅读