Hennessy 与 Patterson 双双进驻 Google,是计算机科学新时代的曙光

简介: John Hennessy 和 David Patterson 在计算机架构领域可谓是无人不知无人不晓,他们的成就包括 MIPS,RISC,RAID,以及两人合著的经典教科书《计算机体系结构:量化研究方法》。

John Hennessy 和 David Patterson 在计算机架构领域可谓是无人不知无人不晓,他们的成就包括 MIPS,RISC,RAID,以及两人合著的经典教科书《计算机体系结构:量化研究方法》。今天 Google 的母公司 Alphabet 宣布 John Hennessy 将接替 Eric Schimdt 就任董事长。而在这之前,David Patterson 就已经开始在 Google 担任杰出工程师,主要从事硬件架构方面的研究工作,Google 的 TPU 2 就有 Patterson 的贡献。

b896bdd7e8233ccfa43b136fc31b0f6a2aaa33bb

John Hennessy(上)与 David Patterson(下)可谓是计算机体系架构领域的传奇人物,RISC,MIPS,RAID 等多项重大成就

看到经典教科书《计算机体系结构:量化研究方法》的两位传奇作者多年后在 Google 再次双剑合璧,大家一定都会期待接下来会发生什么。事实上,Alphabet 选择 Hennessy 做董事会执行主席,看中的估计主要是其丰富的管理经验(其担任斯坦福大学校长的经历就是一个很好的例子);但是 Hennessy 的技术背景一定会对 Alphabet 以及 Google 未来的方向带来一些自己的印记。

Google 归根到底是一家计算机科学公司

目前虽然 Google 在人们的眼中是一家互联网公司,而其 CEO Pichai 则宣布 Google 是一家 AI 公司。然而,Google 的底色其实是计算机科学,多年来一直没有变过。

什么是计算机科学(computer science)?大多数人说起 CS,第一个想起的就是写代码,刷题,等等。事实上,计算机科学 = 软件 + 硬件,两者缺一不可。Google 的代码和算法确实全球第一,但是它从来也不缺乏硬件色彩。最早 Google 刚创业时,面临搜索请求量过大而服务器数量不够的问题。当时,互联网传统的做法是使用商用服务器,这种服务器无论是购买还是维护成本都非常高,以当时 Google 的财力无法大规模部署商用服务器来解决计算能力问题。这是,Google 天不怕地不怕的工程师选择了使用低成本的计算机配合合理的运行管理去做服务器,而最后事实证明这些低成本计算机工作地相当好!于是,就在 Yahoo 等传统搜索引擎还在慢慢行动时,Google 靠硬件上的创新以很低的成本解决了搜索引擎算力问题,在提升用户体验的同时快速抢占了市场。在这之后,Google 的 MapReduce 算法名扬天下,一举解决了大规模计算可扩展性的问题。MapReduce 解决的是如何在大规模硬件上高效率地执行计算,是算法和硬件的完美结合——在这里,硬件和软件都是系统不可或缺的一部分,都得到同样的重视。正因为如此,数据库算法的教材会教授 MapReduce,而计算机体系结构的教材也会讲 MapReduce。

可以说,Google 是真正得到了计算机科学精髓的公司,知道硬件和软件都是计算机不可或缺的部分,也不可偏废。所以,Google 会选择去自己开发芯片来满足自己的计算需求(如 TPU),而不是像其他互联网公司那样把自己限定在软件层。

摩尔定律成明日黄花,异构计算正在兴起

现在其实是计算机科学领域非常重要的转折时期。为什么这么说?因为在这之前的 1980~2010 年,摩尔定律仍然处于其全盛时期,“18 个月处理器性能翻番” 的范式统领着计算机科学界。正因为 CPU 如此强势,因此在那个时候,软件更关注如何在通用处理器上完成运算,编程中硬件被抽象到根本看不到。

然而,到了今天,摩尔定律遇到了技术和经济上的双重瓶颈,处理器性能的增长速度越来越慢,然而社会对于计算能力的需求增速却并未减缓,甚至在移动应用、大数据、人工智能等新的应用兴起后,对于计算能力、计算功耗和计算成本等提出了新的要求。传统的完全依赖 CPU 的计算机已经无法满足现有的需求,因此异构计算(heterogeneous computing)则又回到了人们的视线中。与完全依赖于通用 CPU 及其编程模型的传统软件编写模式不同,异构计算的整个系统包含了多种基于特定领域架构(domain-specific architecture, DSA)设计的处理单元。每一个 DSA 处理单元都有负责的独特领域并针对该领域做优化,当计算机系统遇到相关计算时便由相应的 DSA 处理器去负责。相比 CPU 必须覆盖所有的计算类型,由于 DSA 处理单元只需负责少数几个领域的计算,因此可以把优化做到极致,同时计算效率也远高于传统 CPU。目前非常流行的 AI 芯片就是 DSA 处理单元的一个例子,相比于传统的 CPU 可以实现百倍以上的计算能力提升以及万倍以上的能效比提升,可见 DSA 处理单元的优势。可以说在 CPU 的潜力挖掘见底的今天,异构计算将会成为下一代计算力提升的新范式。

Google 的新计算机科学

Google 一直是异构计算的践行者,TPU 就是异构计算在人工智能应用的一个很好例子。而 Hennessy 和 Patterson 也是异构计算的忠实拥护者和布道人。在 Hennessy 和 Patterson 去年春天斯坦福大学的演讲中,他们明确表达了异构计算将会是下一代计算范式的观点(详见 RISC-V 与 DSA! 计算机架构宗师 Patterson 与 Hennessy 演讲实录)。因此,在他们两位宗师会师 Google 之后,我们可以预期 Google 会在异构计算上有更多的投入以及相关技术诞生。

e877f315139a8e0d437c46d7af6c87d84d0f2d51

Hennessy 和 Patterson 在去年斯坦福的演讲中反复强调 DSA 和异构计算的概念

根据以上思路,我们也可以做出一些其他有趣的推理。首先,我们预计未来 Google 会推出更多有特色的硬件,而且 Google 将会在底层芯片上也有更多自己的设计,就象我们在 Pixel2 手机里看到的 IPU(详见)。而 AI 更是一个非常适合异构计算发挥的场景——一方面,基于深度学习的 AI 对于计算能力要求很高,因此需要异构计算才能达到算力需求;另一方面,为了把 AI 普及到生活的各个角落,还必须有能够高效率计算 AI 算法的边缘计算芯片和硬件。AI + 异构计算将会成为 Google 未来的主题。其次,异构计算中每一个 DSA 处理单元的编程模型都会有所不同,这也对程序员的能力提出了新的要求。一个典型的例子是今天常见的 Nvidia GPU 使用的 CUDA,想要完全释放出 GPU 的计算能力,在编程时必须熟悉其硬件编程模型。在异构计算时代的程序员必须对于算法和硬件模型融会贯通,才能写出高质量的代码。因此,未来程序员还必须要懂硬件!Hennessy 和 Patterson 去年春天斯坦福大学的演讲中也提到过,未来编程工作会比现在更复杂,因为要考虑硬件才能实现高效代码。正如 Hennesy 所说,“The easy ride of software is over”。


原文发布时间为:2018-02-5

本文作者:矽说

本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”微信公众号

原文链接:Hennessy 与 Patterson 双双进驻 Google,是计算机科学新时代的曙光

相关文章
|
机器学习/深度学习 人工智能 编解码
CVPR 2017国内外亮点论文汇集:史上最盛大会议,华人占据半壁江山
深度学习界的「春晚」CVPR 2017 已在夏威夷火奴鲁鲁 Hawaii Convention Center 开幕,在本次大会接收的众多论文当中,有华人参与的接近半数。这七百余篇论文中有哪些亮点?众多参会的中国研究机构又贡献了多少?我们为你整理了一篇观看指南。
324 0
CVPR 2017国内外亮点论文汇集:史上最盛大会议,华人占据半壁江山
|
存储 人工智能 资源调度
浪漫又务实的华为自研之路: 始于情怀,终于智能
浪漫又务实的华为自研之路: 始于情怀,终于智能
浪漫又务实的华为自研之路: 始于情怀,终于智能
|
机器学习/深度学习 人工智能 NoSQL
扎克伯格的AI芯片野心:高调挖角谷歌 疯狂招人
6年前,世界上第一块AI芯片,诞生在Facebook首席AI科学家手里。
1662 0
|
人工智能 物联网 大数据
中德总理见证,世界最大工业互联网平台牵手阿里云
北京时间7月9日晚,阿里云与西门子在德国柏林签署合作备忘录,共同推进中国工业物联网的发展。协议签署后,两家公司将立即展开合作,并计划于2019年推出部署于阿里云的MindSphere平台。
2539 0