新智元报道
编辑:Aeneas 好困
【新智元导读】2022年,计算机领域发生了哪些大事?Quanta Magazine的年终盘点来了。
2022年,计算机领域发生很多划时代的大事。在今年,计算机科学家学会了完美传输秘密,Transformer的进步神速,在AI的帮助下,数十年历史的算法被大大改进……
2022年计算机大事件
现在,计算机科学家能解决的问题,范围是越来越广了,因此,他们的工作也越来越跨学科。
今年,许多计算机科学领域的成果,还助力了其他科学家和数学家。比如密码学问题,这涉及了整个互联网的安全。密码学的背后,往往是复杂的数学问题。曾经有一种非常有前途的新密码方案,被认为足以抵御来自量子计算机的攻击,然而,这个方案被「两条椭圆曲线的乘积及其与阿贝尔曲面的关系」这个数学问题推翻了。以单向函数的形式出现的一组不同的数学关系,将告诉密码学家是否有真正安全的代码。计算机科学,尤其是量子计算,与物理学也有很大的重叠。今年理论计算机科学的一件大事,就是科学家证明了NLTS猜想。这个猜想告诉我们,粒子之间幽灵般的量子纠缠,并不像物理学家曾经想象的那样微妙。这不仅影响了对我们对物理世界的理解,也影响了纠缠所带来的无数密码学的可能性。另外,人工智能一直与生物学相得益彰——事实上,生物学领域就是从人脑中汲取灵感,人脑也许是最终极的计算机。长久以来,计算机科学家和神经科学家都希望了解大脑的工作原理,创造出类脑的人工智能,但这些似乎一直是白日梦。但不可思议的是,Transformer神经网络似乎可以像大脑一样处理信息。每当我们多了解一些Transformer的工作原理,就更了解大脑一些,反之亦然。或许这就是为什么Transformer在语言处理和图像分类上如此出色的原因。甚至,AI还可以帮我们创造更好的AI,新的超网络(hypernetworks)可以帮助研究人员以更低的成本、用更快的速度训练神经网络,还能帮到其他领域的科学家。
Top1:量子纠缠的答案
量子纠缠是一种将遥远的粒子紧密联系起来的特性,可以肯定的是,一个完全纠缠的系统是无法被完全描述的。不过物理学家认为,那些接近完全纠缠的系统会更容易描述。但计算机科学家则认为,这些系统同样不可能被计算出来,而这就是量子PCP(概率可检测证明,Probabilistically Checkable Proof)猜想。为了帮助证明量子PCP理论,科学家们提出了一个更简单的假设,被称为「非低能平凡态」(NLTS)猜想。今年6月,来自哈佛大学、伦敦大学学院和加州大学伯克利分校对三位计算机科学家,在一篇论文中首次实现了NLTS猜想的证明。
论文地址:https://arxiv.org/abs/2206.13228这意味着存在可在更高的温度下保持纠缠态的量子系统,同时也表明,即使远离低温等极端情况,纠缠粒子系统仍然难以分析,难以计算基态能量。物理学家们很惊讶,因为这意味着纠缠不一定像他们想象的那样脆弱,而计算机科学家们很高兴离证明一个被称为量子PCP(概率可检测证明)定理的证明又近了一步。今年10月,研究人员成功地将三个粒子在相当远的距离上纠缠在一起,加强了量子加密的可能性。
Top2:改变AI的理解方式
在过去的五年里,Transformer彻底改变了AI处理信息的方式。在2017年,Transformer首次出现在一篇论文中。人们开发Transformer,是为了理解和生成语言。它可以实时处理输入数据中的每一个元素,让它们具有「大局观」。与其他采取零散方法的语言网络相比,这种「大局观」让Transformer的速度和准确性大大提高。这也使得它具有不可思议的通用性,其他的AI的研究人员,也把Transformer应用于自己的领域。他们已经发现,应用同样的原理,可以用来升级图像分类和同时处理多种数据的工具。
论文地址:https://arxiv.org/abs/2010.11929Transformers迅速成为专注于分析和预测文本的单词识别等应用程序的领跑者。它引发了一波工具浪潮,例如 OpenAI的GPT-3,它训练数千亿个单词并生成一致的新文本,达到令人不安的程度。不过,跟非Transformer模型相比,这些好处是以Transformer更多的训练量为代价的。
这些人脸是由基于Transformer的网络,在对超过20万张名人面孔的数据集进行训练后创建的在今年3月,研究Transformer工作原理的研究人员发现,它之所以如此强大,部分原因是它将更大的意义附加到词语上的能力,而不是简单的记忆模式。事