图灵奖获得者杰夫·辛顿(Geoffrey Hinton)

简介: 杰夫·辛顿(Geoffrey Hinton),加拿大-英国籍教育科研工作者,1947年生于英国温布尔登。他因在神经网络和深度学习领域的杰出贡献,于2018年获得图灵奖。辛顿是反向传播算法和对比散度算法的发明人之一,被誉为“AI教父”。他的研究推动了现代神经网络的发展,并在多个国际顶级期刊上发表了多篇重要论文。

图灵奖获得者杰夫·辛顿(Geoffrey Hinton)介绍

在这里插入图片描述

基本信息

  • 姓名:杰弗里·埃弗里斯特·辛顿(Geoffrey Everest Hinton)
  • 国籍:加拿大、英国
  • 出生日期:1947年12月6日
  • 出生地:英国温布尔登
  • 职业:教育科研工作者
  • 主要成就:2018年获得图灵奖,1998年当选为英国皇家学会院士,1996年当选为加拿大皇家学会院士,2023年当选为美国国家科学院外籍院士

教育背景

  • 1970年,获得剑桥大学实验心理学学士学位。
  • 1978年,获得爱丁堡大学人工智能学博士学位。

职业经历

  • 1976年至1978年,担任苏塞克斯大学认知科学研究项目研究员。
  • 1978年至1980年,担任加州大学圣地亚哥分校认知科学系访问学者。
  • 1980年至1982年,担任英国剑桥MRC应用心理学部科学管理人员。
  • 1982年至1987年,历任卡内基梅隆大学计算机科学系助理教授、副教授。
  • 1987年起,担任多伦多大学计算机科学系教授。
  • 1998年至2001年,担任伦敦大学学院盖茨比计算神经科学部创始主任。
  • 2013年至2016年,担任谷歌杰出研究员。
  • 2016年至2023年,担任谷歌副总裁兼工程研究员。
  • 2023年,从谷歌辞职。

主要贡献

辛顿被誉为“AI教父”、“深度学习鼻祖”,他在神经网络、机器学习、分类监督学习、机器学习理论、细胞神经网络、信息系统应用、马尔可夫决策过程、认知科学等领域做出了杰出贡献。他是反向传播算法和对比散度算法的发明人之一,这些算法对现代神经网络的发展起到了至关重要的作用。辛顿还联合发明了波尔兹曼机(Boltzmann machine),并在深度学习领域取得了多项突破性成果。

主要论文介绍

1. 《Learning representations by back-propagating errors》

  • 发表时间:1986年
  • 主要贡献:这篇论文与同事大卫·鲁姆哈特(David Rumelhart)和罗纳德·威廉姆斯(Ronald Williams)共同发表,详细介绍了反向传播(backpropagation)算法。该算法允许神经网络在实际输出与预期输出不一致时进行自我调节,从而有效训练多层神经网络。这一成果克服了当时神经网络训练的局限性,为现代神经网络的发展奠定了基础。

2. 《A fast learning algorithm for deep belief nets》

  • 发表时间:2006年
  • 主要贡献:这篇论文与杨立昆(Yann LeCun)和约书亚·本吉奥(Yoshua Bengio)共同发表,提出了深度置信网(Deep Belief Nets, DBNs)的快速学习算法。该算法解决了原有神经网络规模无法扩展、只能处理单一情况无法处理复杂情况的问题,直接推动了深度学习理论的突破。这一成果对后续深度学习的发展产生了深远影响。

3. 《A learning algorithm for Boltzmann machines》

  • 发表时间:1985年
  • 主要贡献:这篇论文介绍了玻尔兹曼机(Boltzmann machine)的学习算法。玻尔兹曼机是第一个能够学习不属于输入或输出的神经元内部表征的神经网络。该算法在热量均衡下工作,使得系统在任一全局状态的概率服从玻尔兹曼分布。这一成果对神经网络内部表征的学习和理解具有重要意义。

综上所述,杰夫·辛顿作为图灵奖获得者,在神经网络和深度学习领域做出了卓越贡献。他的主要论文不仅奠定了现代神经网络的基础,还推动了深度学习理论的突破和发展。

目录
相关文章
|
机器学习/深度学习 存储 人工智能
不避嫌、不遮丑!陈天琦导师自批NeurIPS2018最佳论文:没那么神,问题很多
近日,陈天琦的导师David Duvenaud在NeurIPS 2019上回顾了此前获NeurIPS 2018最佳论文的研究。他表示,这篇论文从写作动机上是为了讨好前辈,在数据处理上没有对基线方法进行调参,导致结果的确定性没那么高,并对一些科技媒体的夸大和不实报道做了澄清。他不避嫌、不遮丑的坦诚态度赢得了网友的好感和敬佩。
605 0
不避嫌、不遮丑!陈天琦导师自批NeurIPS2018最佳论文:没那么神,问题很多
|
机器学习/深度学习 达摩院 算法
同济、阿里的CVPR 2022最佳学生论文奖研究了什么?这是一作的解读(1)
同济、阿里的CVPR 2022最佳学生论文奖研究了什么?这是一作的解读
100 0
|
数据可视化 数据挖掘 大数据
同济、阿里的CVPR 2022最佳学生论文奖研究了什么?这是一作的解读(2)
同济、阿里的CVPR 2022最佳学生论文奖研究了什么?这是一作的解读
183 0
|
机器学习/深度学习 存储 人工智能
图灵奖得主Geoffrey Hinton:我的五十年深度学习生涯与研究心法
图灵奖得主Geoffrey Hinton:我的五十年深度学习生涯与研究心法
117 0
|
机器学习/深度学习 算法
Hinton最新研究:神经网络的未来是前向-前向算法|NeurIPS 2022特邀演讲(2)
Hinton最新研究:神经网络的未来是前向-前向算法|NeurIPS 2022特邀演讲
|
机器学习/深度学习 存储 人工智能
Hinton最新研究:神经网络的未来是前向-前向算法|NeurIPS 2022特邀演讲
Hinton最新研究:神经网络的未来是前向-前向算法|NeurIPS 2022特邀演讲
168 0
|
机器学习/深度学习 数据采集 人工智能
他们创造了横扫NLP的XLNet:专访CMU博士杨植麟
Transformer XL 和 XLNet 是最近自然语言处理(NLP)领域里最热的话题之一,而它们都是 CMU 博士生 戴自航、杨植麟等人的工作。今年 6 月,CMU 与谷歌大脑提出的 XLNet 在 20 个任务上超过 BERT,并在 18 个任务上取得当前最佳效果的表现。
688 0
他们创造了横扫NLP的XLNet:专访CMU博士杨植麟
|
机器学习/深度学习 人工智能 自然语言处理
High&NewTech:重磅!来自深度学习的三位大牛Yoshua、Hinton、LeCun荣获2018年图灵奖
High&NewTech:重磅!来自深度学习的三位大牛Yoshua、Hinton、LeCun荣获2018年图灵奖
|
算法 数据挖掘 知识图谱
CIKM'2017 最佳论文鉴赏
今年的Best Paper Award由清华大学的李国良老师团队获得,论文题为:Hike: A Hybrid Human-Machine Method for Entity Alignment in Large-Scale Knowledge Bases《一种基于人机协作的大型知识图谱对齐方法》. 因为是Best Paper,本篇分享单独对该文章做细致解读。
4100 0
|
机器学习/深度学习 人工智能 算法
AAAI 2019 四个杰出论文奖论文揭晓
一半都是强化学习论文
555 0