【论文原文】:Intelligent Computing: The Latest Advances, Challenges and Future
获取地址:https://spj.science.org/doi/10.34133/icomputing.0006
摘要:
计算是人类文明发展的重要动力。近年来,我们见证了智能计算的兴起。在大数据、人工智能、物联网时代,智能计算的新理论、新架构、新方法、新体系、新应用正在重塑传统计算,推动数字革命。智能计算极大地拓宽了计算的范围,从传统的数据计算扩展到感知智能、认知智能、自主智能、人机融合智能等日益多样化的计算范式。智能与计算长期以来经历了不同的进化和发展路径,但近年来却日益交织在一起:智能计算不仅是智能导向的,而且是智能驱动的。这种交叉影响促使了智能计算的出现和快速发展。智能计算仍处于起步阶段,智能计算的理论、系统和应用有望在不久的将来出现大量创新。我们提出了关于智能计算的第一个全面的文献调查,涵盖了它的理论基础,智能和计算的技术融合,重要的应用,挑战和未来展望。我们相信这项调查非常及时,将为学术和工业研究人员和从业者提供全面的参考,并为智能计算提供有价值的见解。
关键词:数据智能,自主智能,大型计算系统,计算体系结构和范式,科学计算
简介:
人类社会正在从信息社会进入智能社会,计算已成为制定和推动社会发展的关键因素。在万物互联的数字文明新时代,传统的数据计算已经远远不能满足人类日益追求更高智能水平的需要。人们对智能计算的兴趣日益浓厚,加上计算科学的发展,对物理世界的智能感知,以及对人类意识认知机制的理解,共同提高了计算的智能水平,加速了知识的发现和创造。
近年来,计算和信息技术飞速发展,其中,由于深度学习的空前普及和成功,人工智能(AI)已成为人类探索机器智能的前沿。在此基础上产生了一系列突破性的研究成果,包括Yann LeCun提出的卷积神经网络(convolutional neural network, CNN), Yoshua Bengio在深度学习中的因果推理领域的贡献[1,2]。人工智能的先驱之一Geoffrey Hinton在2006年[3]提出了深度信念网络模型和反向传播优化算法。另一位重要的AI研究者J¨urgen Schmidhuber提出了应用最广泛的循环神经网络(RNN),长短期记忆(LSTM)[4]。它已经成功地应用于许多领域,以处理完整的数据序列,如语音、视频和时间序列数据。2016年3月,DeepMind推出的人工智能围棋程序AlphaGo与世界顶级人类围棋大师李世石对决,引起了前所未有的全球关注。这场划时代的人机大战以人工智能的压倒性胜利而告终,并成为将人工智能浪潮推向一个全新高度的催化剂。
人工智能的另一个重要推动因素是大型预训练模型的出现,这些模型已经开始广泛应用于自然语言和图像处理,在迁移学习的帮助下处理各种各样的应用。例如,GPT-3已经证明了一个具有高水平结构复杂性和大量参数的大模型可以提高深度学习的性能。受GPT-3的启发,出现了大量大规模深度学习模型[5-7]。
计算能力是支撑智能计算的重要元素之一。在当今信息社会,数据来源庞大,硬件配置异构,计算需求不断变化的情况下,智能计算主要通过垂直和水平架构来满足智能任务的计算能力需求。垂直架构以同质化计算基础设施为特征,主要通过智能方法提升计算能力,提高资源利用效率。横向架构可以协调和调度异构的广域计算资源,最大限度地提高协同计算的效率。例如,2020年4月,为了应对全球新冠肺炎研究的计算需求,Folding@home在三周内联合40万名计算志愿者,实现了2.5 Exaflops的计算,超过了世界上任何一台超级计算机[8]。实现如此巨大的计算能力,是横向计算协作的成功。
尽管在智能和计算方面已经取得了巨大的成功,但我们仍然在以下两个各自的领域面临着一些重大挑战:
智力的挑战。目前,使用深度学习的人工智能在可解释性、一般性、可进化性和自主性方面面临着重大挑战。与人类智能相比,目前的大多数人工智能技术都很弱,只能在特定的领域或任务中发挥作用。实现强大而通用的人工智能还有很长的路要走。最后,从基于数据的智能升级到更多样化的智能形式也存在重大的理论和技术挑战,包括感知智能、认知智能、自主智能和人机融合智能等等。
计算机领域的挑战。数字化浪潮带来了应用程序、连接、终端和用户的空前增长,以及产生的数据量,所有这些都需要巨大的计算能力。例如,人工智能所需的计算能力每100天就会翻一番,预计在未来五年内将增加100多万倍。随着摩尔定律的放缓,要跟上如此快速增长的计算能力需求变得具有挑战性。此外,智能社会的巨大任务依赖于各种特定计算资源的有效组合。传统的硬件模式不能很好地适应智能算法,制约了软件的开发。
到目前为止,智能计算还没有一个被普遍接受的定义。有研究者认为智能计算是人工智能与计算技术的结合[9-11]。根据人工智能的发展,它标志着智能计算系统的三个不同里程碑。这种观点限制了人工智能领域内智能计算的定义,同时忽略了人工智能固有的局限性以及人、机器和事物之间三元交互的重要作用。另一种观点将智能计算视为计算智能。该领域模仿人类或生物智能,实现解决特定问题的最优算法[12],将智能计算主要视为一种算法创新。然而,它没有考虑到计算架构和物联网(IoT)在智能计算中发挥的重要作用。
考虑到人类社会空间、物理空间和信息空间这三个世界基本空间的日益紧密融合,我们从解决复杂科学和社会问题的角度提出了智能计算的新定义。
定义1(智能计算)智能计算是数字文明时代支持全球互联互通的新的计算理论方法、架构体系和技术能力的领域。智能计算是根据具体的实际需要,以最小代价完成计算任务,匹配足够的计算能力,调用最好的算法,得到最优的结果。
智能计算的新定义是为了响应人类社会、物理世界和信息空间三重集成快速增长的计算需求而提出的。智能计算以人为本,追求高计算能力、节能、智能、安全。其目标是提供通用、高效、安全、自主、可靠和透明的计算服务,以支持大规模和复杂的计算任务。图1展示了智能计算的总体理论框架,它体现了支持人-物理-信息集成的各种计算范式。
图1:基于人类社会空间、物理空间、信息空间融合的智能计算概览
首先,智能计算既不是对现有超级计算、云计算、边缘计算以及神经形态计算、光电计算、量子计算等计算技术的替代,也不是简单的集成。而是根据任务要求,系统、整体地优化现有计算方法和资源,解决实际问题的一种计算形式。相比之下,主要的现有计算学科,如超级计算、云计算和边缘计算,属于不同的领域。超级计算的目标是实现高计算能力[13],云计算强调跨平台/设备便利性[14],边缘计算追求服务质量和传输效率。智能计算可以动态协调边缘计算、云计算和超级计算领域之间的数据存储、通信和计算。构建多种跨域智能计算系统,支持端到端云协同、云间协同、超级计算互联。智能计算既要利用好现有的计算技术,更要推动形成新的智能计算理论、架构、算法和系统。
其次,提出智能计算解决未来人-物理-信息空间融合发展中存在的问题。随着大数据时代信息技术应用的发展,物理空间、数字空间和人类社会之间的界限越来越模糊。人类世界已经进化成一个以人、机器和事物紧密融合为特征的新空间。我们的社会系统、信息系统和物理环境构成了一个人、机器、物相互融合、相互作用的高度复杂的大型动态耦合系统,这推动了未来新的计算技术和应用场景的发展和创新。
我们提出了关于智能计算的文献中的第一个全面调查,涵盖其理论基础,智能和计算的技术融合,重要应用,挑战和未来展望。据我们所知,这是第一篇正式提出智能计算定义及其统一理论框架的综述文章。我们希望这篇综述能够为学术界和工业界的研究人员和从业者提供一个全面的参考和有价值的见解。
图2:论文的主要结构。
本文的其余部分组织如下。第2节介绍了智能计算的基础知识。第3节总结了各种智能方面增强计算性能的计算方法。第4节介绍了大型计算系统、新兴计算体系结构以及满足智能模型对计算能力的迫切需求的模式。第5节展示了智能计算在科学和社会领域的几个重要应用。第6节介绍了对智能计算未来发展的展望。最后,第7节对全文进行了总结。本文的主要结构如图2所示。