0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

深度学习之父 Yoshua Bengio , Yann LeCun 以及 Geoffrey Hinton 获得了2018年的图灵奖

8g3K_AI_Thinker 来源:lp 2019-04-02 15:21 次阅读

2019年3月27日 ——ACM 宣布,深度学习之父Yoshua Bengio,Yann LeCun以及Geoffrey Hinton获得了2018年的图灵奖,被称为“计算机领域的诺贝尔奖”。

左:Geoffrey Hinton

中:Yann LeCun

右:Yoshua Bengio

今天,深度学习已经成为了人工智能威廉希尔官方网站 领域最重要的威廉希尔官方网站 之一。三位达人三位大神获得这个奖真是没有什么悬念。

三位科学家发明了深度学习的基本概念,在实验中发现了惊人的结果,也在工程领域做出了重要突破,帮助深度神经网络获得实际应用。

在 ACM 的公告中,Hinton最重要的贡献来自他1986年发明反向传播的论文 “Learning Internal Representations by Error Propagation”;1983年发明的玻尔兹曼机(Boltzmann Machines),以及2012年对卷积神经网络的改进。

Hinton 和他的学生 Alex Krizhevsky 以及 Ilya Sutskever 通过 Rectified Linear Neurons 和 Dropout Regularization 改进了卷积神经网络,并在著名的 ImageNet 评测中取得了很好的成绩,在计算机视觉领域掀起一场革命。

Bengio的贡献主要在1990年代发明的Probabilistic models of sequences。他把神经网络和概率模型(例如隐马尔可夫模型)结合在一起,并和 AT&T 公司合作,用新威廉希尔官方网站 识别手写的支票。现代深度学习威廉希尔官方网站 中的语音识别也是这些概念的扩展。

此外 Bengio 还于2000年还发表了划时代的论文“A Neural Probabilistic Language Model”,使用高维词向量来表征自然语言。他的团队还引入了注意力机制,让机器翻译获得突破,也成为了让深度学习处理序列的重要威廉希尔官方网站 。

Yann LeCun的代表贡献之一是卷积神经网络。1980年代,LeCun 发明了卷积神经网络,现在已经成为了机器学习领域的基础威廉希尔官方网站 之一,也让深度学习效率更高。1980年代末期,Yan LeCun 在多伦多大学和贝尔实验室工作期间,首次将卷积神经网络用于手写数字识别。

今天,卷积神经网络已经成为了业界标准威廉希尔官方网站 ,广泛用于计算机视觉、语音识别、语音合成、图片合成,以及自然语言处理等学术方向,以及自动驾驶、医学图片识别、语音助手、信息过滤等工业应用方向。

LeCun 的第二个重要贡献是改进了反向传播算法。他提出了一个早期的反向传播算法 backprop,也根据变分原理给出了一个简洁的推导。他的工作让反向传播算法更快,比如描述了两个简单的方法可以减少学习时间。

LeCun 第三个贡献是拓展了神经网络的应用范围。他把神经网络变成了一个可以完成大量不同任务的计算模型。他早期引进的一些工作现在已经成为了人工智能的基础概念。

例如,在图片识别领域,他研究了如何让神经网络学习层次特征,这一方法现在已经用于很多日常的识别任务。他们还提出了可以操作结构数据(例如图数据)的深度学习架构。

Geoffrey Hinton

反向传播:在 1986 年与 David Rumelhart 和 Ronald Williams 共同撰写的 “Learning Internal Representations by Error Propagation” 一文中,Hinton 证明了反向传播算法允许神经网络发现自己的数据内部表示,这使得使用神经网络成为可能网络解决以前被认为超出其范围的问题。如今,反向传播算法是大多数神经网络的标准。

玻尔兹曼机(Boltzmann Machines):1983 年,Hinton 与 Terrence Sejnowski 一起发明了玻尔兹曼机,这是第一个能够学习不属于输入或输出的神经元内部表示的神经网络之一。

卷积神经网络的改进:2012 年,Hinton 和他的学生 Alex Krizhevsky 以及 Ilya Sutskever 通过 Rectified Linear Neurons 和 Dropout Regularization 改进了卷积神经网络,并在著名的 ImageNet 评测中将对象识别的错误率减半,在计算机视觉领域掀起一场革命。

Yoshua Bengio

序列的概率模型:在 20 世纪 90 年代,Bengio 将神经网络与序列的概率模型相结合,例如隐马尔可夫模型。这些想法被纳入 AT&T / NCR 用于阅读手写支票中,被认为是 20 世纪 90 年代神经网络研究的巅峰之作。现代深度学习语音识别系统也是这些概念的扩展。

高维词汇嵌入和关注:2000 年,Bengio 撰写了具有里程碑意义的论文“A Neural Probabilistic Language Model”,它引入了高维词向量作为词义的表示。Bengio 的见解对自然语言处理任务产生了巨大而持久的影响,包括语言翻译、问答和视觉问答。他的团队还引入了注意力机制,这种机制促使了机器翻译的突破,并构成了深度学习的序列处理的关键组成部分。

生成性对抗网络:自 2010 年以来,Bengio 关于生成性深度学习的论文,特别是与 Ian Goodfellow 共同开发的生成性对抗网络(GAN),引发了计算机视觉和计算机图形学的革命。

Yann LeCun

卷积神经网络:在 20 世纪 80 年代,LeCun 研发了卷积神经网络,现已成为该领域的基本理论基础。其让深度学习更有效。在 20 世纪 80 年代后期,多伦多大学和贝尔实验室工作期间,LeCun 是第一个在手写数字图像上训练卷积神经网络系统的人。如今,卷积神经网络是计算机视觉以及语音识别、语音合成、图像合成和自然语言处理的行业标准。它们用于各种应用,包括自动驾驶、医学图像分析、语音激活助手和信息过滤。

改进反向传播算法:LeCun 提出了一个早期的反向传播算法 backprop,并根据变分原理对其进行了简洁的推导。他的工作让加快了反向传播算,包括描述两种加速学习时间的简单方法。

拓宽神经网络的视野:LeCun 还将神经网络作为可以完成更为广泛任务的计算模型,其早期工作现已成为 AI 的基础概念。例如,在图像识别领域,他研究了如何在神经网络中学习分层特征表示,这个理念现在通常用于许多识别任务中。与 LéonBottou 一起,他还提出了学习系统可以构建为复杂的模块网络,其中通过自动区分来执行反向传播,目前在每个现代深度学习软件中得到使用。他们还提出了可以操作结构化数据的深度学习架构,例如图形。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器翻译
    +关注

    关注

    0

    文章

    139

    浏览量

    14880
  • 图灵
    +关注

    关注

    1

    文章

    39

    浏览量

    9699
  • 深度学习
    +关注

    关注

    73

    文章

    5503

    浏览量

    121137

原文标题:说说图灵奖的深度学习「三教父」惊世贡献

文章出处:【微信号:AI_Thinker,微信公众号:人工智能头条】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    2024诺贝尔物理学为何要颁给机器学习

    Geoffrey Hinton),表彰他们在使用人工神经网络的机器学习方面的基础性发现和发明。   作为在科学界具有举足轻重的地位和深远影响的诺贝尔,它不仅是对科学家个人成就的最高
    的头像 发表于 10-10 00:11 3736次阅读

    Nordic Semiconductor 三项产品荣获2024亚洲电子工程

    的nRF54H20超低功耗系统级芯片(SoC)凭借其出色的射频性能和无线通信威廉希尔官方网站 ,荣获了“年度最佳射频/无线IC”。这款SoC不仅功耗极低,而且性能卓越,为物联网(IoT)设备提供了高效、可靠的连接解决方案。 同时,Nordic的nPM1300也获得了“年度最佳功率半导
    的头像 发表于 12-24 16:23 215次阅读

    Molex莫仕荣获2024ASPENCORE全球电子成就

    由全球高级工程师和工程用户组成的评选团队,将由中国本地团队设计及研发的MX-DaSH连接器系统选为2024ASPENCORE全球电子成就(WEAA)获奖者之一。这个崇高奖项表彰多个类别的产品, Molex莫仕MX-DaSH数据信号混合连接器荣获了年度高性能无源/分立器
    的头像 发表于 11-07 16:58 808次阅读

    深度学习中的无监督学习方法综述

    深度学习作为机器学习领域的一个重要分支,近年来在多个领域取得了显著的成果,特别是在图像识别、语音识别、自然语言处理等领域。然而,深度
    的头像 发表于 07-09 10:50 706次阅读

    TensorFlow与PyTorch深度学习框架的比较与选择

    深度学习作为人工智能领域的一个重要分支,在过去十中取得了显著的进展。在构建和训练深度学习模型的
    的头像 发表于 07-02 14:04 964次阅读

    一种利用光电容积描记(PPG)信号和深度学习模型对高血压分类的新方法

    使用的方法将在以下部分中详细阐述。 AlexNet是一种深度卷积神经网络,由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton在2012提出
    发表于 05-11 20:01

    深度解析深度学习下的语义SLAM

    随着深度学习威廉希尔官方网站 的兴起,计算机视觉的许多传统领域都取得了突破性进展,例如目标的检测、识别和分类等领域。近年来,研究人员开始在视觉SLAM算法中引入深度
    发表于 04-23 17:18 1289次阅读
    <b class='flag-5'>深度</b>解析<b class='flag-5'>深度</b><b class='flag-5'>学习</b>下的语义SLAM

    奥拓电子SW系列产品斩获2024度德国红点

    近日,奥拓电子SW系列产品从来自全球各地的优秀作品中脱颖而出,获得了2024度德国红点,这是继3月份CV-MIP系列产品荣获德国iF设计大奖之后,公司获得的又一项重量级国际设计大奖
    的头像 发表于 04-08 14:09 915次阅读

    Zebra Aurora深度学习OCR算法荣获CAIMRS颁发的自动化创新

    在第二十二届中国自动化及数字化年度评选活动中,Zebra Aurora深度学习OCR算法获得了由中国自动化及数字化产业年会(简称CAIMRS)颁发的自动化创新
    的头像 发表于 03-20 16:35 470次阅读

    芯科科技一举获得CMGC 2023度的企业贡献和个人贡献两大殊荣

    “CMGC”)在上海举办的中国成员见面会,并一举获得了CMGC 2023度贡献的企业贡献和个人贡献两大殊荣。
    的头像 发表于 03-18 18:11 963次阅读

    【威廉希尔官方网站 科普】主流的深度学习模型有哪些?AI开发工程师必备!

    深度学习在科学计算中获得了广泛的普及,其算法被广泛用于解决复杂问题的行业。所有深度学习算法都使用不同类型的神经网络来执行特定任务。 什么是
    的头像 发表于 01-30 15:26 623次阅读
    【威廉希尔官方网站
科普】主流的<b class='flag-5'>深度</b><b class='flag-5'>学习</b>模型有哪些?AI开发工程师必备!

    这届CES展会上获得了创新的工业AR产品长什么样?

    旗下新品——Z100 AR智能眼镜,这款产品获得了本届CES展会的创新,而这也是vuzix第三次获得
    的头像 发表于 01-26 15:33 518次阅读
    这届CES展会上<b class='flag-5'>获得了</b>创新<b class='flag-5'>奖</b>的工业AR产品长什么样?

    详解深度学习、神经网络与卷积神经网络的应用

    处理威廉希尔官方网站 也可以通过深度学习获得更优异的效果,比如去噪、超分辨率和跟踪算法等。为了跟上时代的步伐,必须对深度学习与神经网络威廉希尔官方网站 有所
    的头像 发表于 01-11 10:51 2030次阅读
    详解<b class='flag-5'>深度</b><b class='flag-5'>学习</b>、神经网络与卷积神经网络的应用

    索泰多款显卡荣膺2023度大奖

    凭借优秀的性能表现、突出的性价比,在本次评选中,共有三款索泰显卡获得了《微型计算机》2023度金奖产品、编辑选择等荣誉。
    的头像 发表于 01-09 09:40 395次阅读

    目前主流的深度学习算法模型和应用案例

    深度学习在科学计算中获得了广泛的普及,其算法被广泛用于解决复杂问题的行业。所有深度学习算法都使用不同类型的神经网络来执行特定任务。
    的头像 发表于 01-03 10:28 1939次阅读
    目前主流的<b class='flag-5'>深度</b><b class='flag-5'>学习</b>算法模型和应用案例