人工智能技术的迭代速度越来越快，以至于很多科学家发表联名信要求暂停人工智能研究。这是因为人们担心人工智能在发展的道路上越来越不受控，而不受控的根源就在于，近几天，越来越多的人工智能大模型“涌现”出了科学家们无法解释的能力。仿佛在一夜之间，人工智能再具备“涌现”能力之后，就觉醒了一般，变得不可控，变得让人恐惧了。
那这里说的涌现到底是什么意思呢？人工智能出现“涌现”能力到底可不可怕呢？
什么是涌现？
对“涌现”最直观的解释就是——个体在组织中表现出来的新特征或新行为，而这些新行为通常是由个体间的相互作用和简单规则产生的复杂结果。
简单来说就是，在单独个体间不会出现的现象，放在群体中会出现的一种群体效应。 这种效应在自然界中有很多，最经典的例子就是蚂蚁群体效应。
蚂蚁群体是一种分工协作的生物，它们在没有中央指挥的情况下，能够表现出一些令人惊奇的行为。
比如，蚂蚁在寻找食物时，会在经过的路径上释放一种化学物质，称为“信息素”。当一只蚂蚁找到了食物后，它会返回到巢穴并释放更多的信息素，这会吸引更多的蚂蚁来寻找食物，它们会跟着信息素存在的路径去寻找食物。
随着越来越多的蚂蚁找到食物并返回巢穴，路径上的信息素浓度也会逐渐增加，就形成了一个正反馈循环。蚂蚁群体行为的涌现源于每只蚂蚁简单的动作：信息素释放。
但在整个群体中却产生了复杂的群体行为。这种行为涌现现象不需要中央控制或智能，而是通过简单的行为和反馈机制来实现的。涌现现象不仅发生在动物身上，在人类之间也会发生——一个著名的人类涌现案例是2004年的印度洋海啸。
当时，面对罕见的自然灾难，人们在短时间内展现出了协作、组织和自发行动的能力，许多志愿者和救援人员自发前往受灾地区，为受灾者提供紧急援助。在这场灾难中，人们之间的协作和组织能力涌现出来，帮助了数十万受灾者度过了最艰难的时刻。除此之外，社交媒体上出现的网络暴力、仇恨言论和群体恐慌等，也都可以看作是一种负面的涌现现象。也就是说，涌现现象在自然界中其实是普遍存在的。那人工智能——一个人工神经网络，出现涌现现象是自然的吗？人们需要害怕这种涌现能力吗？
人工智能是如何出现“涌现”现象的呢
人工神经网络是由数百万个神经元组成的复杂系统。这些神经元被分成许多层，每一层都执行着简单而特定的计算，以便在层与层之间建立联系。
在神经网络的训练的过程中，基于反向传播算法，神经网络会在每一轮训练中更新权值，调整神经元之间连接的权重，以最大程度地减少神经网络输出的误差，提高准确性。人工智能的涌现指的就是神经网络训练完成后，出现的出乎意料的新行为和功能，这些行为可能与初始训练目标无关。
举例来说，卷积神经网络（Convolutional Neural Network, CNN）可以通过多次反向传播迭代生成一个全新的图像，这个图像在视觉上看起来充满魔幻感，但在初始的训练目标中没有涉及到。
在chatGPT之前，一个十分有名的人工智能展现涌现能力的案例是 AlphaGo。
2016年AlpahGo挑战世界冠军李世石，并以4比1的成绩战胜了他，这次比赛引起了全球的关注，被认为是人工智能的一个重大里程碑。AlphaGo 的涌现能力表现在它的学习方式上。它采用了深度神经网络和强化学习技术，通过不断的自我对弈来学习围棋知识和策略。
在学习过程中，AlphaGo能够发现新的围棋策略和变化，超越了人类在围棋方面的知识水平。
近几年神经网络的规模越来越大，动辄几千亿参数的大模型随处可见，这中间神经元的连接是极为复杂的，也就导致了在大模型上，这种涌现能力越来越普遍。
在如此复杂的系统中，出现一些人类意想不到的涌现现象，也是可以预料到的，但这还远远达不到让人产生恐惧的地步。
目前神经网络展现出来的涌现能力，更多的是单个神经元在复杂连接中出现的群体效应，与人们担心的所谓的“智慧”、“思维”的出现，还是两码事。
就像是深度学习大佬LeCun Yang说的那样：汽车在发明之初是没有安全带的，而现在人工智能处于的阶段，还远远达不到汽车出厂的状态，甚至连汽车都还没有造出来。害怕甚至恐惧人工智能，还为时尚早。
