实习博士访谈:我终于拥有了在大学实验室梦寐以求的算力

简介: 正在谷歌实习的慕尼黑工业大学博士在读生 Philip Haeusser 的研究领域是计算机视觉。在这篇访谈中,他谈到了自己在谷歌的实习项目、经历、收获以及如何处理实习和自己博士研究课题的关系。 给我们介绍一下你自己,还有你的博士研究课题吧。


image

正在谷歌实习的慕尼黑工业大学博士在读生 Philip Haeusser 的研究领域是计算机视觉。在这篇访谈中,他谈到了自己在谷歌的实习项目、经历、收获以及如何处理实习和自己博士研究课题的关系。

给我们介绍一下你自己,还有你的博士研究课题吧。

我是 Philip,慕尼黑工业大学博士研究生三年级在读,师从 Daniel Cremers。我的研究领域为计算机视觉,即教计算机理解图像及视频的学科。对于计算机而言,图像及视频只不过是巨大数量的无意义数字的组合。如果把它们以色彩表现出来,人类则很容易分辨图片中的内容。

image
Philip Haeusser

为了教会计算机做同样的事情,我训练神经网络,即一组可以被理解为是“迷你视觉皮层”的模型。目的是为了将组成图像的数字赋予某种意义,如“猫”这样的标签。神经网络在这方面表现惊人。我研究的问题包括光流(从视频的一帧是如何切换到下一帧的)以及域适配(如何使用将一种域的标签,如手写体的图像,运用到另一种域,如谷歌街景里的门牌号)等。

研究以外的时间,我会在我自己的 YouTube 频道“Phil’s Physics”上演示一些实验和分享一些科学知识。

你是如何进入这个领域的呢?

我于2014年在加州大学圣克鲁兹分校获得物理专业硕士学位。当时我在一个跨学科研究小组里参与盲人视网膜移植的项目。我们所做的实验之一需要处理大量的数据,这些数据都非常昂贵,但还无法全部被我们所使用,因为我们的数据处理程序不够复杂。我就是在那时起开始涉猎机器学习和神经网络。我立即被深深吸引并开始联系相关领域的教授。我非常荣幸向 Daniel Cremers 展示了我的工作,并在之后开始读他的博士。

你为什么要来谷歌实习,你的导师是否支持?

深度学习领域发展速度迅猛。几乎每周都有一篇有关神经网络或训练技巧的突破性的新论文发表,而论文作者多来自谷歌,这就使得我对于谷歌在这一领域所做的工作充满了兴趣。在一次夏校的课程里我遇到了 Oliver Bousquet,他对谷歌大脑团队的描述令人惊叹。他也提到了谷歌的实习项目,我立即就申请了。我的导师对此非常支持,能够获取不同的见解,认识更多的人,进行更多的交流总是好的,尤其是在深度学习这样一个全新的领域。此外,在许多大学里计算力无法达到的实验在谷歌都可以获得相关资源并得以完成。

你的实习项目是什么?

我有幸与 DeepDream 创始人之一 Alexander Mordvintsev一起工作。所做的项目涉及用未标记数据和半监督学习训练神经网络的新方法。

我们开发了一种我们称之为“关联学习”的新方法。这有点儿类似“关联游戏”,你听到一个词并马上说出你想到的第一个与之有关联的词。几次“迭代”之后得到的“关联链条”通常出人意料。

我们做的事情非常类似:我们训练一个神经网络来产生允许关联的表征(神经激活模式),关联指标记数据及未标记数据之间的关联。想象从标记数据组中的一个样本到未标记数据组中的另一个样本之间建立一条关联链条;之后,从未标记组到标记组中再建立一条关联,这就形成了一个关联循环。我们就可以将最后得到的样本标签与循环开始时的样本标签做对比。我们的目标在于建立连续一致的关联循环,意指标签是一致的。我们将其表达为成本函数,并证明了该技术对于使用少量标签数据来练分类网络非常有效。

你在谷歌实习期间有发表论文吗?

有的,我完成了一篇论文并提交了 CVPR,在2017年 CVPR 大会上还发表了这篇论文。谷歌资助了我参会的费用。所以在谷歌的实习不仅大幅增长了我在产业里的阅历,还帮助我产出了一篇我自己引以为傲的论文。

你的实习经历与你的博士研究课题相关性如何?

实习之初我们探寻了很多课题,后来从事的这一个与我的博士研究课题非常契合。事实上,我认为即便是参与一个与博士课题并非直接相关的实习项目也会受益良多,例如在编程及项目管理等方面得到的能力训练。

你自己写代码吗?

多亏代码复查,我得以提高了编码水平以及对代码风格及可拓展性有更多考量。谷歌也支持我将自己的代码开源,这也是研究领域惯常的做法。我因此得以继续我的工作,以及同时与全球的研究者分享代码。我还完成了一篇后续论文,关于“关联域适应”,这篇论文也刚被 ICCV 所接受。

这是你第二次在谷歌实习。为什么又回到谷歌苏黎世办公室?

谷歌有太多吸引人的研究项目了,一次实习完全不够,哈哈!说正经的,Sylvain Gelly 的小组邀我参与一个非常有趣的项目。我在去年见过他本人及他的团队,他们都是非常牛的人,我一定不会错过与他们共事的机会。

你在谷歌实习期间获取的最重要的技能是什么?

我认为我的编码能力提高了很多。在谷歌,你有机会向很多超一流的程序员学习,他们的编码质量高,速度快,他们还会帮你提高。与此同时,我还得以与很多不同背景的不同研究小组的成员交流。我遇到的一个产品经理在如何设计成功的产品方面给我很大启发。我还与他们一起参与了 YouTube 新特性的工作。我还在谷歌的健身中心里与 Tough Mudder 的成员一起锻炼了耐力。

实习经历对你的博士研究有何影响?

回顾过去的实习经历,这是我读博经历中重要的里程碑。我当初申请实习也并不是想获得学业的巨大转折或者怎样,不过我返回学校时确实已经收获了非常多的想法和灵感。

回顾过去的经历:博士在读生为什么要申请谷歌的实习?有任何建言吗?

攻读博士期间,有时你会感到困在原地,想要接触不同的东西;有时你想做的实验需要 1000 个GPU;有时你觉得自己已经无所不知,想要挑战自己;有时你想象自己读完博士后的生活,非常想体会狂写代码和对别人产生巨大影响是种什么感觉。理由太多了。谷歌是个允许自我尝试的地方,也许等你回家时,你已经完成了一篇很棒的论文,结交了一群好友,带着一大堆新点子,甚至获得了宝贵的工作机会。

原文发布时间为:2017-08-31
作者:Philip Haeusser
编译:熊笑
本文来自云栖社区合作伙伴“新智元”,了解相关信息可以关注“新智元”微信公众号
原文链接

相关文章
|
6月前
阿里研究生专业实践基地风采
经各研究生培养单位推荐申报、研究生院形式审核、组织专家评审,最终共有包括阿里在内的8个实践基地入选复旦大学第二届示范性专业学位研究生专业实践基地。研究生院已向每个示范性基地给予奖励支持,并将召开表彰大会为每个示范性基地授予荣誉铭牌。
280 0
|
安全 云计算
复旦-阿里云研究生专业实践基地合作交流会成功举行
2023年4月12日,复旦大学-阿里云计算有限公司研究生专业实践基地合作交流会在复旦大学江湾校区二号交叉学科楼A1010会议室举行。学校研究生院副院长王昕莅临指导;阿里集团全球人才储备总监曹彬,阿里云高校合作部总经理李贝,阿里云资深技术专家施兴,资深安全专家路放,高级技术专家周磊、王晨、杨晔辉、林帆、薛盛可、林俊旸,阿里云学术与高校合作部刘林岩、沈龙睿、胡锐、李卓君等参会;学院副院长彭鑫,院长助理钱振兴,学院导师代表黄萱菁、熊贇、孙未未、徐扬、王智慧、池明旻、赵进、赵卫东等参会。会议由学院研究生办公室廖炳华主持。
298 0
|
新能源
Trumonytechs团队加入上海交通大学鲁博士讲授最新热仿真技术
上周末,我们的Trumonytechs团队接受了博士关于热模拟的讲座。来自上海交通大学的陆教授。
Trumonytechs团队加入上海交通大学鲁博士讲授最新热仿真技术
|
算法 开发者
阿里算法,浙大博士带你写项目经历!
阿里算法,浙大博士带你写项目经历!
阿里算法,浙大博士带你写项目经历!
|
机器学习/深度学习 人工智能 自然语言处理
姚期智亲任主编,正规军的高中 AI 教材来了
姚期智亲任主编,正规军的高中 AI 教材来了
姚期智亲任主编,正规军的高中 AI 教材来了
|
达摩院 算法 语音技术
我在达摩院作实习研究僧的那些事儿
经韩老师介绍,2019年7月,有幸进入阿里巴巴达摩院成为一名实习研究僧。如今也已半年有余,期间发生的事情仍然历历在目。从初出茅庐的不安,到积极融入的快乐,再到宠辱不惊的泰然,一路走来收获良多。
1306 0
|
大数据
常州大学阿里云大数据学院举行“创新思维”课程答辩
创新思维新生研讨课是常州大学校企联合培养学生的第一次课程,课程通过基础概念、实际案例、设计创新等全方位学习方式,夯实学生的理论基础并提高实践能力,扎实推进嵌入式培养成果,更好做好校企联合培养工作,助力大数据产业的持续蓬勃发展。
2039 0