IBM的计算机“华生”是由戴维·费鲁奇（David Ferrucci）和他的25人团队发明，团队任务是研发一个人工智能（AI）系统，在《危机边缘》（Jeopardy）游戏里和人类冠军对抗。2011年2月，“华生”打败了最强的人类冠军肯·詹宁斯（Ken Jennings）和布兰德·鲁特（Brad Rutter）。此后，它又接受了更实际的任务，例如应答医学诊断中的问题。
那么我有一个问题：“华生”知道自己在《危机边缘》中获胜吗？它有没有想到“太棒了！我打败了伟大的阿詹！”？换句话说，获胜后，“华生”是否感到自豪？每当有人问我这场伟大的人机交锋时，我都会这么反问；而对方接下来总是说——不会。他们明白，这种自我意识还不在计算机的能力范围内。
在最近的一次会议上，我向“‘华生’之父”费鲁奇提出了这个问题。他的回答令我意外：“是的，‘华生’知道自己赢得了《危机边缘》。”我不相信：这怎么可能？计算机应该还没有这样的自我意识吧。费鲁奇坏笑了一下说：“是我告诉它的。”
当然，你还可以给“华生”编段程序，让它像霍华德·迪恩（Howard Dean）一样发出胜利的欢叫，但那完全不是真心感到胜利时的喜悦。
2011年10月15日－16日的那个周末，奇点峰会（在这里，奇点是指机器超越人类智慧的时间节点）在美国纽约召开，一个重要议题是：计算机的自我意识水平以及产生自我意识的时间。数百名奇点学者济济一堂，听取到2045年将取得的进展。这个年份是富有远见的计算机科学家雷·库兹韦尔（Ray Kurzweil）提出的，他认为到2045年，计算机智能将会是整个人类智能的10亿倍，人类将永生不死，技术变革将变得迅速而深刻，届时我们将面临一道智力上的“视界”（event horizon）——“视界”之外，就像天文学上的黑洞内部一样，一切都是另一番景象。
听到这些说法，我的第一反应是既受启发又感到怀疑。如果有人问我在永生问题上的立场，我会回答：“我支持！”然而，人类历史上已有数以十亿计的人，一方面向往永生，一方面得到的又是无法证明的永生方法。每当有“算命先生”把自己和自己的世代写进预言，宣布在自己有生之年会发生人类历史上最重大的事件，我的“鬼扯探测器”就会响起警报。我相信哥白尼的信条——我们没有什么特别。
我真的希望，有个未来学家或者宗教先知告诉我，“最重大的事件”会在比如2525年或7510年发生。不过，那样的话对于现在的我们还有什么意义？因此，库兹韦尔和他那帮奇点乐观派人士的观点就格外吸引人了：不管每天冲击感官的坏消息多么令人烦恼，我们都应该始终期待着地平线上即将发生的“最重大的事件”，要沉住气啊。
我们确实应该沉住气，在我看来，AI赶上人类智能，还有好几个世纪那么远。美国加州理工学院的神经科学家克里斯多夫·科赫（Christof Koch）在介绍秀丽隐杆线虫（Caenorhabditis elegans）的神经传导通路时指出，我们完全不了解这种简单的线虫是如何“思考”的，更别说对复杂数十亿倍的人类大脑提出解释（并用计算机模拟）。
我们甚至不知道，人脑如何产生有意识的思想，“自我”又在什么地方（如果真有这个地方的话）；更不知道该如何编写程序让计算机也做到这些。比较接近真相的，或许还是流行摇滚二人组“扎格和伊文思”（Zager and Evans）在1969年的那首畅销单曲《远在2525年》中预测的，人类历史上最重大的事件将发生在遥远的未来，从2525年开始，到9595年截止。
在“计算机统治世界，赶超人类思维”的漫天海口中，我却不得不提前在 “社会奇点会议”（关于过去10 000年中政治、经济和社会体制的进步）上发表演讲，原因是美国莱斯大学的计算机科学家詹姆斯·麦卢金（James McLurkin）没法让他那一小群机器人启动起来。这大概是谁的无线麦克，或者房间里的无线网络干扰了那些微型机器人的通信系统，在场的人全都束手无策。真够讽刺的！所以我对奇点的预测是：它还在十年之后，永远的十年之后……
推荐者结语。如果说怀着一种人类天生具来的骄傲认为科技无法达到甚至超越我们，是对科技缺乏敬畏的话；那缺乏依据和超越现实的认为奇点很快临近，就是对人类自身的妄自菲薄。我们不做自大的自身守护者，也不做癫狂的科技异教徒。
