0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

中国科学院院士姚期智:人工智能存在三大威廉希尔官方网站 瓶颈

璟琰乀 来源:嵌入式资讯精选 作者:嵌入式资讯精选 2020-11-05 10:50 次阅读

关于姚期智在2020年浦江创新论坛的演讲,迄今为止只见到头条推送的两篇报道,即“图灵奖唯一华人得主PPT:人工智能四大挑战,影响自动驾驶”(简称“四大挑战”)与“中国科学院院士姚期智:人工智能存在三大威廉希尔官方网站 瓶颈”(简称“三大瓶颈”)。“四大挑战”一文中有4页PPT稿。PPT稿上,姚期智只提了“鲁棒性”与“可解释性”两大威廉希尔官方网站 瓶颈,以及未来超级人工智能的终极挑战。“三大瓶颈”一文中将脆弱性、机器学习算法缺乏可解释性、人工智能的对抗性较弱列为三大瓶颈。上述两篇报道显然出自专业人士的现场报道,有助于对姚期智演讲的深入理解。

关于鲁棒性问题,可以解释成脆弱性、非安全性、非可靠性问题。人工智能系统设计历来重功能性设计,轻可靠性、安全性设计;或先功能性,后安全性、可靠性。在早期产品中这一现象尤为严重。在自动驾驭汽车领域,最终制约因素是安全性、可靠性问题,未来,无人驾驶汽车研发会因可靠性、安全性问题,成为“永在途中”的课题。

关于可解释性,可以理解成广义的开源性。可解释性就是如何让人们深入了解人工智能系统。以汽车为例,在工业革命时代,汽车驾驶者们对汽车原理、结构一目了然;现在,汽车对于驾驶员而言只是一个黑盒子,只有方向盘、油门、刹车这样一个应用界面。相比而言,工业革命时代的汽车有高度的可解释性,人工智能的新兴汽车无可解释性。同样,手机数码相机、电视机相较于电话机、照相机、电子管电视机而言,无可解释性,对所有使用者都是黑盒子,无人去拆解、修理,去了解其内部结构,这是一种十分现实、十分先进的人工智能产品的傻瓜化应用模式,它将知识创新与创新知识应用彻底分离。然而,对于人工智能创新领域,不可解释性是一个威廉希尔官方网站 创新的巨大障碍。硬件的透明、软件的开源,一定程度上解决了威廉希尔官方网站 创新的可解释性障碍。目前,可解释性障碍突出表现在算法领域(人工智能三大基础之一),它阻碍算法的推广、评价与市场化,算法的碎片化现象会严重阻碍人工智能的发展。

关于第三个对抗性瓶颈,文中截取的PPT讲稿中,未能见到列举的这个瓶颈,也许可以归纳到鲁捧性中。

姚期智是一个极有远见、对人工智能有独到见解的大家。早年在清华大学的一次演讲中,他提出了人工智能时代的“大科学”概念。它表明:人工智能时代,已进入到诸多强势科学的交叉融合发展时代,各个强势学科都会以自己的视角(自以为是地)诠释人工智能。此次演中,姚期智提到超人工智能,并提出对超人工智能的三点期望。过去人们一直把人工智能分成弱人工智能与强人工智能。弱人工智能始于半导体微处理器诞生,是对人类智力的人工仿真;强人工智能始于大脑工程,是人工智能的智力创新时代。由于人工智能超高速度的疯狂发展,人们无法预见人工智能的未来,便有了后强人工智能的超人工智能概念。姚期智认为超人工智能具有很大的不确定性,人类会面对诸多种潜在威胁。对于超人工智能的未来,姚期智给出了未来制约智能机器的三个原则:一是利他,即人的利益凌驾于机器;二是谦卑,即机器不能自以为是;三是尽心,即机器能学懂人的偏好。每个原则都要用严格的算法来实现,这样就能有效驾驭人工智能。这是一个对未知时代的理性期望,希望人工智能最终能走向理性化道路。

延伸阅读文中提到的两篇报道:

图灵奖唯一华人得主PPT:人工智能四大挑战,影响自动驾驶

无论当前自动驾驶,或是今后无人驾驶,都离不开以人工智能为基础的算法、算力和数据支撑,最近也一直在学习相关的知识。

全球人工智能顶级大咖,也是图灵奖唯一华人获得者姚期智,在2020浦江创新论坛上,从前瞻和顶层的角度,发表了“人工智能面对的挑战”,个人觉得很有启发,这里与读者进行分享。

“鲁棒性”和“可解释性”是当前研究热点

鲁棒性(Robustness),这也是汽车里很流行的词汇,系统受到不正常干扰时,还能保证功能正常运作。

当前机器学习十分脆弱和不稳定,将一只小猪的照片加入些许“干扰”,就很有可能被系统识别为飞机。

“小猪变飞机”这种漏洞,会给人工智能应用带来安全隐患。例如自动驾驶汽车在通过路口时,交通信号灯指示“停止”,但只要稍微被干扰和攻击,系统很有可能识别为“通行”,会给自动驾驶带来严重安全隐患。

机器学习算法缺乏可解释性,是人工智能的“黑盒子”挑战。

基于机器学习算法开发的房地产估价系统,通过学习各地房地产价格大数据,构建了价格模型,能自动评估房地产价格。

但这个价格无法用很好的逻辑去解释,估价没有完整的依据,卖房人心中会产生怀疑,这套系统会不会“故意”低估了这套房产价值,从而让价格有利于买房者。

这样的漏洞会导致人工智能在大规模应用时,特别是涉及到安全问题,如自动驾驶时,人们会有所顾虑。

以上两个挑战和例子是当前人工智能研究的热点。

“强化学习”近几年产生惊人效果

强化学习,在未来在三到五年内,却是很有可能在应用上产生惊人的效果,是最有可能被突破的方向。

无人机群可轻松完成灯光秀、农林作业等任务,但这些任务都是人类与自然界的对抗,自然界不是非常乐意地要与人类进行对抗,这并不是一个恶意的对抗,是很容易解决的。

但如果是人和人、单位和单位进行较量,这个时候,要找到一个最优策略的空间就会变得无穷大,传统计算机里面从数学角度严格来解决问题就行不通了。

而强化学习可以解决这个问题,是目前人工智能发展最迅速的方向,和普通的图像识别提升1%的精度相比,这是“0和1”的较量,很有前途。

“多方安全计算”解决隐私问题

关于人工智能的隐私保护,1982年姚期智提出了“百万富翁”的问题:两个百万富翁街头邂逅,他们都想炫一下富,比比谁更有钱,但是出于隐私,都不想让对方知道自己到底拥有多少财富,如何在不借助第三方的情况下,让他们知道他们之间谁更有钱?

在这个经典问题之下,诞生了“多方安全计算”(MultipartyComputation, MPC)这门密码学分支。

通过MPC,多个数据库可以联手做计算,却又不透露各自的数据,最终实现数据所有权和使用权的分离。

多方安全计算,对金融科技、药物研发等AI应用非常有用。

“超级人工智能”终极挑战

人脸识别等仅适用于特定领域,通用的超级人工智能何时会到来?这存在很大的不确定性。

超级人工智能必须可控而有益,譬如原子能和基金编辑。同时需要具备“利他的、谦卑的、尽心的”三个原则。

也就是,人的利益应凌驾于机器利益,机器不能自以为是,而且要学懂人的偏好。

期望以上分享,能让读者对人工智能趋势(自动驾驶)有所把控。

中国科学院院士姚期智:人工智能存在三大威廉希尔官方网站 瓶颈

昨天举行的2020浦江创新论坛全体大会上,图灵奖获得者、中国科学院院士姚期智做了《人工智能面对的一些挑战》主题演讲。在他看来,人工智能有三大威廉希尔官方网站 瓶颈亟待突破,需要科学家“从0到1”的原创研究。

作为现代密码学的奠基人,姚期智创立的上海期智研究院今年初成立,目前已汇聚4位两院院士、20多位科学家和多所高校的青年人才。研究院瞄准人工智能、现代密码学、高性能计算系统、量子计算及量子人工智能、物理器件与计算、生物智能6个方向开展前沿研究。

在姚期智看来,脆弱性是人工智能面临的第一大威廉希尔官方网站 瓶颈。人眼识别十分稳定,一个图像如有微小改变,人仍能一眼看出它是什么,而人工智能在图像识别上却是能力不足,比如将一只小猪的照片加入一些图像“杂音”,机器视觉系统可能会把它识别为飞机。“小猪变飞机”这种漏洞会给人工智能应用带来安全隐患。

第二大威廉希尔官方网站 瓶颈是机器学习算法缺乏可解释性,很多算法处于“黑盒子”状态。如一个科研团队开发了一个房地产估价系统,系统通过算法学习了各地房地产价格大数据,从而能自动评估房地产价格。然而,这套算法像黑盒子一样,很难给出估价的完整依据。这在商业应用上是短板。算法的可解释性问题亟待科研突破。

第三大威廉希尔官方网站 瓶颈是人工智能的对抗性较弱。如今,一个无人机群可轻松完成灯光秀、农林作业等任务,但要看到,这些任务都是在自然环境下完成,如果是处于高对抗的人为环境中呢?比如在电子竞技和军事战斗中,无人机群的协同作战能力就会受到很大考验,要在对抗中胜出,需要计算机科学、数学等领域的科学家进行深入的强化学习、博弈论研究,让无人机群能在高对抗环境中自主找到最优策略。“这是一个很重要的科研方向。”

未来是否会产生“超级人工智能”?姚期智说,这存在很大的不确定性。但应对这种潜在威胁,他给出了制约智能机器的3个原则:一是利他,即人的利益凌驾于机器;二是谦卑,即机器不能自以为是;三是尽心,即机器能学懂人的偏好。“每个原则都要用严格的算法来实现,这样就能有效驾驭人工智能。”

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    47220

    浏览量

    238307
  • 机器学习
    +关注

    关注

    66

    文章

    8408

    浏览量

    132580
  • 自动驾驶
    +关注

    关注

    784

    文章

    13787

    浏览量

    166408
收藏 人收藏

    评论

    相关推荐

    中国科学院金属研究所选购我司HS-STA-001同步热分析仪

    近日,我司荣幸地宣布,中国科学院金属研究所决定选购我司研发的HS-STA-001同步热分析仪,以助力其在材料科学研究领域的深入探索。中国科学院金属研究所中国科学院金属研究所作为我国材料
    的头像 发表于 11-27 09:27 99次阅读
    <b class='flag-5'>中国科学院</b>金属研究所选购我司HS-STA-001同步热分析仪

    欧洲科学院院士蒋田仔:智能威廉希尔官方网站 推动脑控和控脑威廉希尔官方网站 发展

    电子发烧友网报道(文/吴子鹏)在第届南渡江智慧医疗与康复产业高峰论坛上,欧洲科学院院士中国科学院自动化研究所研究员、中科脑健康与智慧医疗研究院院长蒋田仔分享的主题是《脑健康与脑机接
    发表于 11-22 10:13 200次阅读
    欧洲<b class='flag-5'>科学院</b><b class='flag-5'>院士</b>蒋田仔:<b class='flag-5'>智能</b>化<b class='flag-5'>威廉希尔官方网站
</b>推动脑控和控脑<b class='flag-5'>威廉希尔官方网站
</b>发展

    传感器专家郭源生当选2025美国国家人工智能科学院院士

    近日,美国国家人工智能科学院2025年院士名单正式对外公布。本次评选公示初评名单116人,最终公布的终身院士名单86人,其中有27名华人,中国国籍
    的头像 发表于 11-13 01:04 370次阅读
    传感器专家郭源生当选2025美国国家<b class='flag-5'>人工智能科学院</b><b class='flag-5'>院士</b>

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    探讨了人工智能如何通过威廉希尔官方网站 创新推动能源科学的进步,为未来的可持续发展提供了强大的支持。 首先,书中通过深入浅出的语言,介绍了人工智能在能源领域的基本概念和
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    很幸运社区给我一个阅读此书的机会,感谢平台。 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们揭示了人工智能威廉希尔官方网站 在生命
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    ,无疑为读者铺设了一条探索人工智能(AI)如何深刻影响并推动科学创新的道路。在阅读这一章后,我深刻感受到了人工智能威廉希尔官方网站 科学领域的广泛应用潜力以及其带来的革命性变化,以下是我个人的学习
    发表于 10-14 09:12

    中国科学院西安光机所智能光学显微成像研究取得新进展

    )。论文第一作者为中国科学院西安光机所2024级博士研究生田璇和特别研究助理李润泽,通信作者为柏晨副研究员和保利研究员。 光波携带的相位信息能揭示物质的厚度、折射率、几何形貌等特性,因其无法直接被光学传感器感知,通常需要干涉的方法进行检测。数字同轴全息显微(Di
    的头像 发表于 09-29 06:20 368次阅读
    <b class='flag-5'>中国科学院</b>西安光机所<b class='flag-5'>智能</b>光学显微成像研究取得新进展

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    大力发展AI for Science的原因。 第2章从科学研究底层的理论模式与主要困境,以及人工智能要素(数据、算法、算力)出发,对AI for Science的威廉希尔官方网站 支撑进行解读。
    发表于 09-09 13:54

    中国科学院沈阳应用生态研究所选购我司同步热分析仪

    近日,中国科学院沈阳应用生态研究所决定选购我司生产的HS-STA-002同步热分析仪,以进一步提升其科研实力与实验精度。此次合作不仅彰显了我司产品在科学研究领域的卓越性能,也体现了双方对生
    的头像 发表于 09-03 15:55 196次阅读
    <b class='flag-5'>中国科学院</b>沈阳应用生态研究所选购我司同步热分析仪

    中国科学院大学:实现可再生高灵敏度生物传感器新进展

    传感新品 【中国科学院大学:实现可再生高灵敏度生物传感器新进展 】 可再生的即时检测(POC)传感器为疾病标志物的快速检测提供了一类新型解决方案,但是该类器件面临循环使用过程中重复污染难题,难以兼具
    的头像 发表于 08-14 19:14 1637次阅读
    <b class='flag-5'>中国科学院</b>大学:实现可再生高灵敏度生物传感器新进展

    特斯联与中国科学院共建边缘智能计算重庆市重点实验室

    近日,特斯联与中国科学院重庆绿色智能威廉希尔官方网站 研究院(简称重庆研究院)携手共建的“边缘智能计算重庆市重点实验室”在重庆高新区正式揭牌。这一合作标志着双方在
    的头像 发表于 06-04 09:25 497次阅读

    最新!中国科学院院士褚君浩如何从新质生产力视角看传感器产业

    ,提高动手实验实践能力,培养创新精神和创造力。 徐汇中学曾宪一校长介绍说:褚君浩先生系一九六二届校友,徐汇中学校友会名誉会长。他是享誉世界的半导体物理专家,中国科学院院士。现任中国科学院上海
    的头像 发表于 04-06 08:37 192次阅读

    中国传感器专家当选欧洲自然科学院院士!他推动了国产传感器发展!(深度观察)

    近日(3月12日),欧洲自然科学院正式公布新增院士名单,九三中央科技委副主任、中国传感器与物联网产业联盟常务副理事长、北京理工大学前沿威廉希尔官方网站 研究院首席专家、武汉大学及北京邮电等大学兼职教
    的头像 发表于 03-21 17:31 609次阅读
    <b class='flag-5'>中国</b>传感器专家当选欧洲自然<b class='flag-5'>科学院</b><b class='flag-5'>院士</b>!他推动了国产传感器发展!(深度观察)

    达实智能正式签约中国科学院大学深圳医院(光明)新院项目

    近日,深圳达实智能股份有限公司(以下简称“公司”)与深圳市光明区建筑工务署就中国科学院大学深圳医院(光明)新院项目有关事项协商一致,在深圳市光明区正式签署了项目合同,合同金额为4,317.32万元。
    的头像 发表于 03-13 15:01 465次阅读

    “超级光盘”在中国科学院上海光学精密机械研究所诞生

    存储容量是普通光盘上万倍、普通硬盘上百倍的“超级光盘”,在中国科学院上海光学精密机械研究所诞生。
    的头像 发表于 02-25 10:16 1173次阅读