图灵奖获得者杰夫·辛顿(Geoffrey Hinton)介绍
基本信息
- 姓名:杰弗里·埃弗里斯特·辛顿(Geoffrey Everest Hinton)
- 国籍:加拿大、英国
- 出生日期:1947年12月6日
- 出生地:英国温布尔登
- 职业:教育科研工作者
- 主要成就:2018年获得图灵奖,1998年当选为英国皇家学会院士,1996年当选为加拿大皇家学会院士,2023年当选为美国国家科学院外籍院士
教育背景
- 1970年,获得剑桥大学实验心理学学士学位。
- 1978年,获得爱丁堡大学人工智能学博士学位。
职业经历
- 1976年至1978年,担任苏塞克斯大学认知科学研究项目研究员。
- 1978年至1980年,担任加州大学圣地亚哥分校认知科学系访问学者。
- 1980年至1982年,担任英国剑桥MRC应用心理学部科学管理人员。
- 1982年至1987年,历任卡内基梅隆大学计算机科学系助理教授、副教授。
- 1987年起,担任多伦多大学计算机科学系教授。
- 1998年至2001年,担任伦敦大学学院盖茨比计算神经科学部创始主任。
- 2013年至2016年,担任谷歌杰出研究员。
- 2016年至2023年,担任谷歌副总裁兼工程研究员。
- 2023年,从谷歌辞职。
主要贡献
辛顿被誉为“AI教父”、“深度学习鼻祖”,他在神经网络、机器学习、分类监督学习、机器学习理论、细胞神经网络、信息系统应用、马尔可夫决策过程、认知科学等领域做出了杰出贡献。他是反向传播算法和对比散度算法的发明人之一,这些算法对现代神经网络的发展起到了至关重要的作用。辛顿还联合发明了波尔兹曼机(Boltzmann machine),并在深度学习领域取得了多项突破性成果。
主要论文介绍
1. 《Learning representations by back-propagating errors》
- 发表时间:1986年
- 主要贡献:这篇论文与同事大卫·鲁姆哈特(David Rumelhart)和罗纳德·威廉姆斯(Ronald Williams)共同发表,详细介绍了反向传播(backpropagation)算法。该算法允许神经网络在实际输出与预期输出不一致时进行自我调节,从而有效训练多层神经网络。这一成果克服了当时神经网络训练的局限性,为现代神经网络的发展奠定了基础。
2. 《A fast learning algorithm for deep belief nets》
- 发表时间:2006年
- 主要贡献:这篇论文与杨立昆(Yann LeCun)和约书亚·本吉奥(Yoshua Bengio)共同发表,提出了深度置信网(Deep Belief Nets, DBNs)的快速学习算法。该算法解决了原有神经网络规模无法扩展、只能处理单一情况无法处理复杂情况的问题,直接推动了深度学习理论的突破。这一成果对后续深度学习的发展产生了深远影响。
3. 《A learning algorithm for Boltzmann machines》
- 发表时间:1985年
- 主要贡献:这篇论文介绍了玻尔兹曼机(Boltzmann machine)的学习算法。玻尔兹曼机是第一个能够学习不属于输入或输出的神经元内部表征的神经网络。该算法在热量均衡下工作,使得系统在任一全局状态的概率服从玻尔兹曼分布。这一成果对神经网络内部表征的学习和理解具有重要意义。
综上所述,杰夫·辛顿作为图灵奖获得者,在神经网络和深度学习领域做出了卓越贡献。他的主要论文不仅奠定了现代神经网络的基础,还推动了深度学习理论的突破和发展。