0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

人工智能时代何时到来?这个问题谁说了“算”?

中科院半导体所 来源:“科学大院”公众号 2023-12-10 16:29 次阅读

由ChatGPT点燃的大模型这把火,在全球科技圈子里愈演愈烈。国内外相关领域在此时形成了一种无言的默契——以ChatGPT为代表的AI大模型是一个划时代的里程碑,将开启通用人工智能(AGI)时代。站在历史的关键节点,谁能引领下一个人工智能黄金时代?为什么算力会对人工智能发展产生重要影响?今天,我们就来聊一下被誉为人工智能“发动机”的算力。

什么是“算力”

这几年,“算力”的概念频繁出现在互联网圈,成为科技大佬们常挂在嘴边的热词。但实际上,这并不是一个新概念,算力的本义也并不复杂,顾名思义,就是指计算的能力。如果用《中国算力白皮书(2022年)》来进一步进行专业解释,就是指数据中心的服务器通过对数据进行处理后实现结果输出的一种能力。

人类的大脑就是天然的计算服务器。生活中,小到去菜市场买菜、大到破解一道数学难题,人类大脑每时每刻都在通过口算、心算的方式来为我们的需求提供算力。但这样的算力有点低,尤其碰到非常复杂的计算问题时,就这样催生出了一代又一代计算工具。

首先当然要从人类自己身上找工具,于是手指成为了最简单方便且一直沿用至今的计数工具,而这大概也是十进制计算得以发明并且普及的根本原因。

到远古时期,人们开始用绳子、石头等自然物来计数。中国古籍《周易·系辞下》中就有“上古结绳而治”的说法;在南美,古印加人也用绳子来记录。

随着生产实践的不断发展,人类终于发明了自己的计算工具。算筹就是中国早期的计算工具,一般由木棍、竹条或兽骨(称为“筹”)等做成。

算筹采用十进制记数法,有纵式和横式两种摆法。个、百、万位等用纵式,十、千、十万位等用横式,空位表示零,这样从右到左,纵横相间,就可以表示任意自然数了。并且,中国古代的算筹,在整数四则运算、分数四则运算、开平方等问题上均有成熟的法则,在问题解决的每一步上都有规格化的程序,也因此被一些数学史学者认为具有构造性和“机械化”的特点。

不过,与机械时代工具的改良类似,随着算筹的软件,也就是运算法则的发展越来越快,算筹的硬件,也就是“筹”虽然也一直在改进,但终究跟不上算法的进展,最终被更为方便的算盘取代了。

这也是计算工具发展史上的第一次重大改革。算盘的原理与算筹类似,但在操作上更加实用,尤其在熟练掌握珠算口诀和基本技巧之后,运算速度更是惊人。15世纪左右,由中国人民发明的算盘传入了日本、韩国等国家,又经商路逐渐传入西方,至今在一些地区仍有着广泛的应用。

17世纪之前,在手工计算时代,我国的算力和算法无疑走在前列,但随着工业革命的到来,数学及计算工具的发展中心渐渐转移到了西方,计算工具也从手工计算正式进入机械计算时代。

世界上第一台机械式计算工具——加法器,是由法国数学家、物理学家、思想家帕斯卡设计成功的,计算过程只需拨动机器上的齿轮就能实现。尽管这台机器只能进行加减运算,但完全不用再依赖人类大脑,其设计原理与现今计算机的原理也是相通的,为后人制造机械计算器迈出了开拓性一步。

在他的基础上,德国哲学家、数学家、“百科全书式”学者莱布尼茨对机械计算器进行重大改进,不仅研制了一台能进行四则运算的机械式计算器,还有一个重大的发明——二进制。虽然当时莱布尼兹发明的计算器并没有融入二进制,但这种进位规则却被现代计算机一直采用至今。

现代计算机与摩尔定律

从远古时期结绳计数到手工计算时代,再到机械计算时代,计算工具的每一次变革都带来了算力的极大跃迁,并进一步推动人类经济社会向前发展。

但过去人们对算力的感知并不明显,直到电子计算机的诞生,才让人们深刻感受到计算的威力——比如问世于2016年的超级计算机“神威·太湖之光”,1分钟的计算能力就相当于全球72亿人同时用计算器不间断计算32年。在这样的超强算力支持下,许多以前无法想象的难题顷刻就能得到解决。也正是这样一代又一代越来越快的电子计算机的出现,才让算力的重要性真正为人们所关注。

1946年,世界上第一台电子计算机ENIAC在美国宾夕法尼亚大学问世,其使用电子管作为开关,可以进行大量的计算操作,速度比之前的机械计算器快了很多。这台计算机虽然能满足不同计算需求,但不具备存储的功能。

1950年前后,冯·诺伊曼主导制造完成了第一台现代计算机EDVAC。这台由运算器、存储器、控制器、输入设备和输出设备五大部件组成的计算机系统有两大开创性突破:一是采用了二进制形式表示数据和指令,二是提出了“存储程序”方式。直到今天,电子计算机的设计仍然是这种结构。

现代计算机的算力是怎么衡量的?

简单来说,当人类使用计算机时,输入的字符或者信息首先需要被转化为电子计算机能够处理的编码:0或者1的排列组合。而电子晶体管就是作为0或者1进行数值运算的基本单元,此时电子晶体管的通路可以代表数值1,断路就代表数值0,每一个0或1就是一比特(信息量的最小单位)。这也意味着,算力的大小与晶体管数量呈正相关,晶体管数量越多,就能表示越多的信息量。

第一台电子计算机ENIAC就拥有18000多个电子管,占地面积达170m2,体重达30吨。如此庞然大物当然不便推广,一直到20世纪50年代,在ENIAC之后推出的新机如UNIVAC、IBM、Ferranti、Burroughs等都是大型机,价格昂贵,只有政府和大型企业等有实力的组织才能够购买和使用。

不过,变革很快到来。1958年,工程师杰克·基尔比发明了一种能将一个电路中需要的晶体管、电阻电容和电感等元件及布线连在一起的电子器件,也就是人们现在所熟悉的集成电路(同时期,罗伯特·诺伊斯也带领仙童半导体公司发展出了近代实用的集成电路),而集成电路的载体就是“芯片”。

可以说,芯片的出现真正推动了现代计算机的飞速发展。1965年,时任仙童半导体公司研究开发实验室主任的摩尔应邀为《电子学》杂志35周年专刊撰写评论。在绘制数据时,他发现了一个惊人的趋势:每个新芯片大体上包含其前任两倍的容量,每个芯片的产生都是在前一个芯片产生后的18-24个月内。按照这一趋势,芯片的密度还有计算力相对于时间周期都将呈指数式的上升。这一发现也就是现在大名鼎鼎的“摩尔定律”。

半个多世纪以来,电子计算机的发展基本都遵循着摩尔定律。20世纪七八十年代,随着芯片的性能不断提升、体积不断减小,计算机终于实现了小型化,PC(个人电脑)诞生了。这也标志着电子计算机的算力终于不再仅为少数有实力的机构服务,而是开始真正走向千家万户,进而推动全民信息化时代到来。

人工智能时代的算力挑战

按照摩尔定律,算力基本每两年就要翻一番。但这样恐怖的增长速度也无法满足人类对算力的需求,尤其是2012年深度学习的发展带领人工智能崛起以后。

早在2019年,OpenAI就在其更新的AI计算量报告中分析了AI算法消耗算力的情况,并发现在之前的几十年中,AI计算量的增长速度基本和摩尔定律保持同步,而2012年成为了AI两个时期的分水岭。2012年之后,最先进AI模型的计算量每三四个月就翻一番,也就是每年增长近10倍,比摩尔定律2年增长一倍快得多。

在此情况下,如何才能提高算力以满足智能计算的需求?目前有两大方面可供突破。

3.1 机海战术

第一种方法,找更多人一起计算,也就是借助高性能计算和分布式计算提力,也是现在最为主要的提高算力的方法。

其中,高性能计算的最核心威廉希尔官方网站 就是并行计算,即同时使用多种计算资源解决计算问题的过程。从架构上看,并行计算又分为同构并行计算——把计算任务分配给一系列相同的计算单元,如多核CPU(中央处理器,计算机系统的运算和控制核心)架构;还有异构并行计算——把计算任务分配给不同制程架构、不同指令集、不同功能的计算单元,如CPU+GPU(图形处理器,又称显示核心、视觉处理器、显示芯片)的架构。

这里简单介绍一下CPU与GPU的差别,虽然总体上两者都包括运算器、控制单元、高速缓存器和动态随机存取存储器,但这些成分的构成比例却是不同的。CPU中控制单元和存储单元占的比例较大,计算单元则比例较小且不多,而GPU正好与之相反,这就造成了CPU长于控制和存储,而GPU则擅长计算,两者的组合正好形成互补关系。

2012年深度学习崛起之后,人们发现GPU非常适合用来训练神经网络模型。因为其绝大部分工作都是将不同的矩阵进行相乘或者矩阵和向量进行相乘,而GPU在矩阵相乘上就是非常高效,因此GPU开始被广泛地应用于人工智能。

再来介绍一下第一种提高算力方法中的分布式计算,即将分散在不同物理区域的计算单位聚集起来共同完成某一计算任务的方法,其典型代表就是现在经常听说的云计算。在云计算中,CPU、内存、硬盘、GPU等计算资源都被整合起来,通过软件的方式,组成一个虚拟的可无限扩展的“算力资源池”。用户需要算力时,无需自购设备、自建机房、自己运维,通过“算力资源池”的调度就可以实现算力资源的分配,用户直接按需付费即可。

在云计算时代,数据中心就是算力的主要载体。这也是目前国内各地开始建设大数据中心、云计算中心、智算中心、超算中心等信息基础设施的根本原因。

早在1961年,“人工智能之父”约翰·麦卡锡就曾预言,“有一天,计算可能会被组织成一个公共事业,就像电话系统是一个公共事业一样”。而现在,这一天正在成为现实。

根据国家信息中心联合相关部门于今年1月发布的《智能计算中心创新发展指南》显示,目前全国有超过30个城市正在建设或提出建设智算中心。通过各级各类计算中心网络,算力正像电力一样被输送进千行百业,成为社会发展最基础的公共资源。

3.2 设备改进

第二种方法,从根本上改进设备,实现计算模式上的突破。

尽管高性能计算及分布式计算是当前人们提高算力的主要手段,但其制约因素比较多,而且算力的提升也有限。因此,提高算力的第二大方法成为了许多前沿科学家的追求,这其中典型代表就是量子计算。

过去几十年来,芯片上的晶体管数量基本按照摩尔定律在演进,也就是每两年密度增加一倍。然而,这种趋势不能一直持续。早在几年前,英伟达创始人就曾表示:“摩尔定律已死。”事实上,近几年芯片威廉希尔官方网站 迭代的速度确实在放缓,这也是由于芯片微电路加工的光刻工艺不断逼近光学衍射极限,很难按照摩尔定律持续演进。

那么,还有什么办法可以突破这一极限?实际上,早在20世纪80年代,就有学者提出了量子计算的思想。其“薛定谔的猫”一样的叠加特性,使得每一个量子比特都可以当作2个运算单元,也就是说传统计算机需要2的N次方个晶体管来表示的计算量,量子计算机只需要N个就能完成。而当N越大时,量子计算的威力也就越大。这样一来,如果将晶体管计算机换成量子计算机,芯片工艺的难题就迎刃而解了。

不过,这里仍然面临其他的问题:一是找到适合并且可以通用的保持量子叠加态的物理载体,二是可广泛应用的计算场景。到目前为止,见诸报道的各种量子计算机都还只能执行少数几种特殊的场景,但未来发展前景非常可期。

尽管算力并不是影响人工智能发展的唯一因素,但却是其必要条件之一。号角已然吹响,下一个十年,要想在人工智能这条赛道上胜出,算力只怕是要攻破的第一道关了。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储器
    +关注

    关注

    38

    文章

    7484

    浏览量

    163776
  • 摩尔定律
    +关注

    关注

    4

    文章

    634

    浏览量

    79005
  • 人工智能
    +关注

    关注

    1791

    文章

    47208

    浏览量

    238304
  • ChatGPT
    +关注

    关注

    29

    文章

    1560

    浏览量

    7604

原文标题:人工智能时代何时到来?这个问题谁说了“算”?

文章出处:【微信号:bdtdsj,微信公众号:中科院半导体所】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    嵌入式和人工智能究竟是什么关系? 嵌入式系统是一种特殊的系统,它通常被嵌入到其他设备或机器中,以实现特定功能。嵌入式系统具有非常强的适应性和灵活性,能够根据用户需求进行定制化设计。它广泛应用于各种
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    幸得一好书,特此来分享。感谢平台,感谢作者。受益匪浅。 在阅读《AI for Science:人工智能驱动科学创新》的第6章后,我深刻感受到人工智能在能源科学领域中的巨大潜力和广泛应用。这一章详细
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    农业、环保等,为人类社会的可持续发展做出贡献。 总结 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们展示了一个充满希望和机遇的未来。在这个未来中,人工智能
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    深刻认识到人工智能在推动科学进步中的核心价值。它不仅是科技进步的加速器,更是人类智慧拓展的催化剂,引领我们迈向一个更加智慧、高效、可持续的科学研究新时代
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    RISC-V在人工智能图像处理领域的应用前景十分广阔,这主要得益于其开源性、灵活性和低功耗等特点。以下是对RISC-V在人工智能图像处理应用前景的详细分析: 一、RISC-V的基本特点 RISC-V
    发表于 09-28 11:00

    人工智能ai4s试读申请

    目前人工智能在绘画对话等大模型领域应用广阔,ai4s也是方兴未艾。但是如何有效利用ai4s工具助力科研是个需要研究的课题,本书对ai4s基本原理和原则,方法进行描诉,有利于总结经验,拟按照要求准备相关体会材料。看能否有助于入门和提高ss
    发表于 09-09 15:36

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    大力发展AI for Science的原因。 第2章从科学研究底层的理论模式与主要困境,以及人工智能三要素(数据、算法、力)出发,对AI for Science的威廉希尔官方网站 支撑进行解读。 第3章介绍了在
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    8月28日至30日,2024深圳(国际)通用人工智能大会暨深圳(国际)通用人工智能产业博览会将在深圳国际会展中心(宝安)举办。大会以“魅力AI·无限未来”为主题,致力于打造全球通用人工智能领域集产品
    发表于 08-22 15:00

    力:人工智能发展的新引擎

    力支持。 但,力的提升往往伴随着高昂的成本,维护以及电力消耗都是不小的开支、高性能计算硬件的购置。此外,AI模型的规模和复杂性不断增加,所需的力也在不断增长,这进一步推高了相关成本。 北京智源
    的头像 发表于 08-20 09:48 344次阅读

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2) 课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https
    发表于 05-10 16:46

    力系列基础篇——力101:从零开始了解

    相信大家已经感受到,我们正处在一个人工智能时代。如果要问在人工智能时代最重要的是什么?那必须是:力!
    的头像 发表于 04-24 08:05 1002次阅读
    <b class='flag-5'>算</b>力系列基础篇——<b class='flag-5'>算</b>力101:从零开始了解<b class='flag-5'>算</b>力

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:参赛基础知识指引
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能
    发表于 02-26 10:17

    前海深港人工智能力中心正式启动

    深圳市前海信息枢纽大厦内,一个具有划时代意义的项目正式启动。前海深港人工智能力中心,这个集大成者,将人工智能
    的头像 发表于 01-16 15:19 716次阅读