机器之心专访杰瑞·卡普兰:我们对人工智能过于乐观也过于悲观

简介: 在进入斯坦福大学之前,卡普兰是计算机技术公司 Go 的创始人,该公司设计了世界上第一台笔触式计算机。作为硅谷最传奇的连续创业家,卡普兰分别创立了全球第一家 B2C 电子商务公司 Onsale、社交游戏网站 Winster 等。

杰瑞·卡普兰是斯坦福大学的人工智能专家,1972 年本科毕业于芝加哥大学历史与科学哲学专业,之后考入宾夕法尼亚大学计算机科学专业,后进入斯坦福大学人工智能实验室工作。目前,卡普兰担任的是斯坦福大学人工智能与伦理学教授。在进入斯坦福大学之前,卡普兰是计算机技术公司 Go 的创始人,该公司设计了世界上第一台笔触式计算机。作为硅谷最传奇的连续创业家,卡普兰分别创立了全球第一家 B2C 电子商务公司 Onsale、社交游戏网站 Winster 等。

微信图片_20211126223622.jpg

今年 6 月,卡普兰带着他的新书《人工智能时代》(Humans Need Not Apply)来到中国,机器之心也在此期间对卡普兰进行了一次专访。卡普兰认为人工智能在未来将会对交通领域产生重大影响,并认为我们同时对人工智能过于乐观和过于悲观。以下是机器之心对杰瑞·卡普兰的采访实录:


机器之心:你第一次听说「人工智能」这个词是在什么时候?


杰瑞·卡普兰:对于我来说,大概是在 1970 年我上大学的时候。这个词是约翰·麦卡锡(John McCarthy)在 1956 年提出来的,所以我大概是在这个词出现后 15 年才第一次了解到它。


机器之心:在那个时候,「人工智能」这个词的含义和现在有什么不同?


杰瑞·卡普兰:当然在那个时候这个词的含义和现在有一些不同。它的发明者约翰·麦卡锡提出这个概念时,他认为真正的人工智能应该能够理解人的天性,而通过对机器编程来模拟人类的智商是可行的。他当时提出了一种开发人工智能的方法,当然现在这个方法已经被否定了。当时计算机几乎完全是为了数字计算而设计的,所以他觉得我们可以用所谓的「象征化过程」来让计算机的计算过程变得理性化,从而让计算机能够参与到逻辑推论的过程中。


机器之心:作为斯坦福大学的教授和一名连续创业者,你如何平衡学术研究和企业管理之间的关系?你在创业过程中遇到的问题有没有对你的学术研究有所影响?


杰瑞·卡普兰:事实上我进入学术圈之前是企业家,所以这两者并没有什么冲突。但是我曾经是企业家的经历对我的学术研究的确有很多影响,这让我很好地明白了技术应该通过何种方式来被社会所接受,以及技术应该如何产生价值。企业家的经历也让我有了写这本书的素材,这对我来说非常重要。


机器之心:在 WaitButWay.Com 网站的一篇文章里,作者 Tim Urban 写道,当人们预测未来的时候,他们总是低估了未来。他还在文章中画了一张非常有名的曲线图,显示人工智能有可能正处在一个爆发式增长的前夜。根据你对人工智能的了解,现在的人工智能到底发展到了哪一个阶段呢?

微信图片_20211126223640.jpg

杰瑞·卡普兰:你说的是这个几何级数式增长曲线图是吧。我认为最可笑的事情是,我们有的时候太乐观了,有的时候又太悲观了。我们经常认为人工智能很快就要来了,但同时又不理解它对人类的长期影响,所以我们才会低估了它的影响。但是我认为我们又高估了人工智能的发展速度。这就是我对这件事情的看法。另外,这张几何级数式的增长曲线图实际上描述了一个非常复杂的情况,我们目前还难以理解。实际上我们对于新技术的发展速度过于乐观了,人们总会认为五年内所有的司机都会失业,因为自动驾驶汽车已经快被研发出来了。的确这种情况在很多年后会发生,而且起影响也会非常大。我认为人们最低估了的一件事情就是人工智能对劳动市场的影响,我认为在未来 10 到 15 年内,很多工作都会被自动化的机器人取代,因此工作的性质也会改变,而人类则会因此变得更加富有。


机器之心:伊隆·马斯克几周前在 Code Conference 上说:「我们在人工智能领域的进步有可能把人类带向一个变成人工智能宠物的境地。」这和你在你的新书《人工智能时代》的最后提出的问题「如果机器圈养了人类」很类似。你同意马斯克的这种观点吗?


杰瑞·卡普兰:完全不同意。我不认为有什么能让人类变成宠物,相反地,人工智能以后还是会和冰箱或者汽车的地位一样。基本上我认为我们正在将任务变得自动化的过程中,人工智能只会做那些有经济价值的任务。马斯克和其他人提出的对机器人统治人类的恐惧其实是很没有意义的,而且这种情况也没有发生。

 

机器之心:那么他提出来的解决方法呢?(注:马斯克在会场提出的解决方案是:神经织网(Neural Lace)。马斯克认为,只要透过颈部静脉就可安装植入神经织网,若人类能利用自己的数码分身创造宽频的神经界面,就有可能避免被高级人工智能所奴役。

 

杰瑞·卡普兰:这就是他脑子里防止机器人统治人类的方法是吧?但是我不认为我们需要担心这个问题,我们让机器取代人类去做那些我们以前做的工作就好了。机器统治人类是完全没有道理的。什么机器将让人类变成宠物之类的话实在是太傻了,用作写耸人听闻的文章的素材倒是个不错的选择。

 

机器之心:从技术上来讲,你认为在未来的 3 到 5 年内人工智能将会走到哪一步?

 

杰瑞·卡普兰:3 到 5 年内应该不会有什么明显的变化,新技术从出现到应用需要花很长时间的。例如智能手机从出现到真正成为主流设备大概花了 15 年时间。所谓我认为在未来 3 到 5 年内,我们看到的情况应该和今天一样。

 

机器之心:那未来的 15 年内呢?


杰瑞·卡普兰:嗯,这就会有所不同了。我认为在未来 15 年里,改变最大的将会是交通领域。未来的交通工具将不需要人类驾驶,这会改变很多事情,例如人们可能不需要购买汽车了。所以汽车领域会是影响最大的,而其他领域则会相对小一些。另外,在 15 年内人工智能也可能在工业以外的领域有一些戏剧性的影响,我认为是在那些需要人工劳动的领域,例如农业和装修。我认为会出现这样一些人工智能设备来完成这些任务,而且其价格也不会很高。

 

机器之心:很多人认为图灵测试不能反映人工智能的真实发展状态,而你在《人工智能时代》这本书里提到说图灵测试不仅仅是一项测试,而是一种人们重新理解诸如「思考」和「智能」这类词的方法。你能更详细地解释这一观念吗?

 

杰瑞·卡普兰:当然。如果你真的读过艾伦·图灵的论文《计算机器和智能》的话,你会发现人们误解了图灵测试。这篇论文非常具有可读性,而且你会对其中的一些观点感到惊奇。人们会觉得所谓「图灵测试」是一个有趣的测试,但实际上在这篇论文里,他表达的观点是:去研究机器能不能思考本身就是没有意义的。但是他猜想,在 50 年内,人们将能够和机器进行交流,而且这个机器看起来会「思考」。现在已经过了 50 年,他说对了。我们现在能够和智能手机或者自动驾驶汽车或者其他智能机器交流了。但在这个过程中,机器并没有真正地「思考」,真正发生改变的是词语的涵义。图灵说的是当我们把「思考」、「智能」等词语应用到机器身上时,它们就会产生新的意义。例如当你学习哲学的时候,你是在「学习」,而当机器在学习识别一只猫的图片时,它也是在「学习」。但这两种「学习」的本质时不同的,这并不意味着机器正在和人类一样「学习」。

 

机器之心:自从人类发明智能工具之后,我们就进入了一个所谓的「人机共生」的阶段,如果哪一天人类发明出了真正的人工智能,你认为这种「人机共生」的状态会发生何种改变?

 

杰瑞·卡普兰:首先,我不认为真正的人工智能会出现。但我认为一件很有趣的事情是我们正在和机器一起完成很多事情,例如你会用机器画画,你会把手机放在你的脑袋边上。所以当机器真正进入我们的身体并和我们达到一种「共生」状态的时候,我不会觉得奇怪。机器在我们身体以外工作和以内工作对于我来说都是一样的,因为它们本质上是一样的。


机器之心:你认为人工智能能在诸如艺术、发明创造和学术研究等方面取代人类吗?


杰瑞·卡普兰:我认为在艺术领域,人工智能可能会生产出杰出的艺术,例如它会演奏出很优美的小提琴曲子,但这不是艺术,因为它没有人类演奏的音乐那样有艺术上的意义。没有人会想去北京剧院去听机器人拉小提琴的,它可能会拉得很好,但这不会产生和人类演奏一样的意义。在学术方面,我觉得人工智能可以表现得很好,因为在学术研究里,我们只注重结果而不是过程,更谈不上什么意义。


机器之心:我听说你是《2001太空漫游》的粉丝。在那部电影里,人工智能 HAL 9000 为了完成任务不惜杀死了自己的人类伙伴,你认为 HAL 9000 的主要缺陷是什么?(注:电影中,人工智能机器人 HAL 随人类宇航员一起远征土星,在任务快要完成时,HAL 发现人类宇航员似乎想要关闭自己,所以决定先发制人杀死宇航员。幸存的宇航员大卫·鲍曼在彻底关闭 HAL 前看到了从地球带来的视频指令,原来地球上的指挥人员在飞船离开地球前告诉 HAL 要使用一切办法完成任务。)

微信图片_20211126223708.jpg

杰瑞·卡普兰:我很喜欢这个问题。我认为是 HAL 的程序设计者没有考虑到它会采取这种措施,设计者也没有采取措施来保护 HAL 的人类同伴的安全。但我不认为 HAL 的设计是完全错误的,只是它身上存在一些问题,就像汽车的轮子脱落了一样。我认为 HAL 杀死它的人类同伴之间事情应该判处它的设计师进监狱,因为他没有很好地设计 HAL。

 

机器之心:你认为问题出在程序设计上还是人的命令上?因为人在下达命令时要求 HAL 采取一切必要手段完成任务。

 

杰瑞·卡普兰:呃……程序当然是好的,但是他们没有考虑到这个程序会在极端情况下做出那种事情。这个问题我们到现在还得面对,例如在无人驾驶汽车上,比如说当计算机程序必须决定路人的生死的时候。所以设计程序的工程师需要考虑到社会道德因素,确保自己的产品做出正确是非常重要的。


机器之心:最后一个问题。自从 AlphaGo 和李世石的人机围棋大战之后,人工智能在中国引发了很多讨论。那么关于人工智能和机器人,你有什么想对你的读者分享的?


杰瑞·卡普兰:当然,我认为人们从一场人和机器之间的围棋比赛中引发担忧是非常没必要的,这并不代表什么东西。这并不意味着机器和人类一样聪明了,这只能说明 AlphaGo 这个程序被很好地设计并能够完成围棋这一特定游戏。这就是我认为人们误解的人工智能的原因,它只是一种人类思维的延伸而已。AlphaGo 打败了李世石只能说明我们在人工智能领域有了一个突破。在 1997 年,IBM 的「深蓝」计算机打败了当时世界第一的国际象棋棋手加里·卡斯帕罗夫,那时人们也有过类似的反应。人们说:「我的天呐,机器要统治人类了。」但现在 20 年过去了,我们知道这种情况并没有发生。

微信图片_20211126223725.jpg

杰瑞·卡普兰新书《人工智能时代》





微信图片_20211126223601.png

相关文章
|
3天前
|
机器学习/深度学习 人工智能 自然语言处理
AI与艺术创作:机器的艺术天赋
【10月更文挑战第31天】本文探讨了AI在艺术创作中的应用及其独特“艺术天赋”。从绘画、音乐、文学到设计,AI通过计算机视觉、自然语言处理和生成对抗网络等技术,逐渐展现出强大的创作能力。尽管面临原创性、审美标准和法律伦理等挑战,AI艺术创作仍为艺术界带来了新的视角和灵感,未来有望与人类艺术家共同推动艺术的创新与发展。
|
11天前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能与艺术创作:机器与创造力
【10月更文挑战第31天】本文探讨了人工智能在艺术创作中的应用,涵盖绘画、音乐和文学等领域。通过深度学习、生成模型和强化学习等技术,AI正重新定义创造力的概念,辅助艺术家创作,并激发新的艺术形式。文章还讨论了AI对人类创造力的影响及未来发展趋势。
|
2月前
|
机器学习/深度学习 人工智能 算法
人工智能在艺术创作中的创新应用:机器创作的未来
【9月更文挑战第25天】 人工智能在艺术创作中的创新应用,不仅为艺术家们提供了全新的创作工具和媒介,更在创作理念、艺术形态等方面带来了深刻的变革。随着技术的不断发展和完善,机器创作将在未来展现出更加广阔的发展前景。我们期待在人工智能的助力下,艺术创作能够迎来更加繁荣和多元的未来。
|
2月前
|
机器学习/深度学习 人工智能 算法
AI伦理边界:当机器决策超越人类认知
【9月更文挑战第5天】AI伦理边界的探索是一个复杂而艰巨的任务,需要政府、企业、学术界和社会各界的共同努力。随着AI技术的不断发展,我们有理由相信,通过不断的探索和实践,我们一定能够找到一条既符合伦理道德又能够充分发挥AI技术潜力的道路。在未来的日子里,让我们携手并进,共同迎接AI技术带来的机遇与挑战。
|
3月前
|
机器学习/深度学习 人工智能 自动驾驶
人工智能的伦理困境:机器的自主性与人类的责任
【8月更文挑战第8天】在人工智能技术飞速发展的今天,一个日益凸显的问题是关于AI的伦理困境。随着机器学习和深度学习技术的进步,AI系统展现出越来越高的自主性,这引发了关于人类责任和控制的哲学讨论。本文将探讨AI自主性的提升如何影响人类的伦理责任,以及我们应如何平衡技术进步与道德考量。
|
3月前
|
人工智能
人工智能的伦理困境:机器是否应拥有权利?
【8月更文挑战第6天】 随着人工智能技术的飞速发展,机器在处理复杂任务、决策甚至创造性工作方面的能力越来越强。这引发了一个深刻的哲学和法律问题:当人工智能达到某种智能水平时,我们是否应该赋予它们某些权利?本文将探讨这一话题,分析支持与反对的观点,并讨论可能的社会影响。
54 1
|
3月前
|
机器学习/深度学习 人工智能 开发者
人工智能的伦理困境:机器决策与道德责任
【8月更文挑战第3天】 在人工智能技术飞速发展的今天,机器学习和自动化决策系统正逐步渗透到我们生活的方方面面。然而,随着技术的进步,一系列伦理问题也随之浮现。从数据偏见到隐私侵犯,再到机器自主性引发的责任归属问题,人工智能的伦理挑战不容忽视。本文将探讨AI技术中存在的几个关键伦理议题,并讨论如何通过制定合理的政策和技术框架来应对这些挑战。
72 3
|
4月前
|
人工智能 算法 自动驾驶
人工智能的伦理困境:当机器拥有道德决策权
随着人工智能技术的飞速发展,机器逐渐在多个领域承担起人类的工作,甚至在某些情境下开始参与或主导决策过程。然而,当AI涉足需要道德判断的领域时,一系列复杂的伦理问题随之浮现。本文将探讨AI进行道德决策时所面临的挑战,分析可能的后果,并提出未来研究方向。
|
3月前
|
机器学习/深度学习 人工智能 算法
人工智能的伦理困境:机器决策与人类价值观的碰撞
【8月更文挑战第23天】在人工智能(AI)技术飞速发展的时代,机器学习算法已渗透进我们生活的方方面面,从日常消费推荐到医疗诊断,再到司法判决。然而,随着AI决策能力的增强,一系列伦理问题也随之浮现。本文将探讨AI决策背后的伦理挑战,包括数据偏见、隐私保护、责任归属以及自主性与控制的问题,并思考如何在技术进步的同时维护人类的价值观和伦理标准。
|
4月前
|
机器学习/深度学习 人工智能 自动驾驶
人工智能伦理:当机器拥有道德判断
【7月更文挑战第22天】在人工智能(AI)的迅速发展中,一个日益受到关注的问题是如何确保这些系统在做出决策时能够遵循人类的伦理标准。本文探讨了AI伦理的必要性、挑战以及可能的解决方案,旨在为读者提供一个关于如何构建更负责任的AI系统的全面视角。

热门文章

最新文章