人工智能同时需要实用主义者和蓝天梦想家

简介: 为了人类最光明的未来,人工智能中的蓝天崇高思想家需要泥靴实用主义者的帮助

人工智能思想家似乎来自两个社区。一种是我所谓的蓝天幻想家,他们推测技术的未来可能性,援引乌托邦幻想来产生兴奋。蓝天构想令人信服,但往往被不切实际的愿景和可以和应该建造的道德挑战所笼罩。

image.png
相比之下,我所说的泥地靴实用主义者是关注问题和解决方案的。他们希望减少广泛使用的人工智能系统可能造成的危害。他们专注于修复有偏见和有缺陷的系统,例如经常错误地将人识别为罪犯或侵犯隐私的面部识别系统。实用主义者希望减少 AI 可能犯的致命医疗错误,并引导自动驾驶汽车成为安全驾驶汽车。他们的目标还在于改进基于人工智能的关于抵押贷款、大学录取、工作招聘和假释授予的决策。

作为一名在设计已广泛实施的创新应用程序方面有着悠久历史的计算机科学教授,我相信那些有远见的人会从泥地靴现实主义者的深思熟虑的信息中受益。将两个阵营的工作结合起来更有可能产生有益的结果,从而导致下一代技术的成功。

虽然蓝天投机者的未来主义思维激发了我们的敬畏并获得了大部分资金,但泥地靴思维提醒我们,一些人工智能应用程序威胁隐私、传播错误信息,并且明显存在种族主义、性别歧视和其他道德问题。不可否认,机器是我们未来的一部分,但它们会平等地为所有未来的人类服务吗?我认为泥地靴阵营的谨慎和实用性将通过确保算法开发的多样性和平等性在短期和长期内造福于人类,这些算法越来越多地影响着我们的日常生活。如果蓝天思想家将泥地靴现实主义者的担忧融入他们的设计中,他们就可以创造出更有可能促进人类价值观、权利和尊严的未来技术。

蓝天思维始于人工智能发展的早期。文学由开创该技术并预示其不可避免的社会转型的作者所主导。人工智能的“父亲”通常被认为是麻省理工学院的 Marvin Minsky 和 John McCarthy 以及卡内基梅隆大学的 Allen Newell 和 Herb Simon。他们聚集在会议上,比如 1956 年的达特茅斯会议,激发了西蒙 1965 年预测“机器将能够在 20 年内完成人类可以做的任何工作”的热情。

人工智能还有许多其他贡献者,包括2018 年的三位图灵奖获得者:Geoffrey Hinton、Yoshua Bengio 和 Yann LeCun。他们在深度学习算法方面的工作是一项重要贡献,但他们对 AI 的重要性和必然性的持续庆祝包括 Hinton 在2016 年令人不安的引述,即“人们现在应该停止培训放射科医生。很明显,在五年内深度学习将比放射科医生做得更好。” 更以人为本的观点是,深度学习算法将成为另一种工具,如乳房 X 光检查和血液检查,使放射科医生和其他临床医生能够做出更准确的诊断并提供更合适的治疗计划。

牛津大学 2013 年的一份报告将机器人取代人类从而造成广泛失业的主题合法化,该报告声称 47% 的工作可以实现自动化。未来学家马丁福特 2015 年的著作《机器人的崛起》抓住了这一想法,描绘了一幅令人不安的画面,即低技能和高技能工作变得如此完全自动化,以至于政府将不得不提供普遍的基本收入,因为剩下的工作机会很少。现实情况是,精心设计的自动化可以提高生产力,从而降低价格、提高需求并为许多人带来好处。这些变化引发了一个平行的现象,即大力创造新的就业机会,这有助于导致美国和其他一些国家目前的高就业水平。

是的,有些作者提供了警示故事和不同的愿景,例如麻省理工学院教授 Joseph Weizenbaum 在他 1976 年出版的《计算机能力和人类理性》一书中,但这些都是例外。
泥地靴实用主义者掀起了新一轮深思熟虑的人工智能批评浪潮。他们将讨论从天马行空的乐观转变为明确指出对人类尊严、公平和民主的威胁。Op-Ed 文章和2016 年白宫座谈会是有益的举措,数学家 Cathy O'Neil 的 2016 年著作《数学毁灭武器》扩大了受众范围。她专注于不透明的人工智能算法在大规模应用以决定假释、抵押和工作申请时如何有害。奥尼尔强有力的例子促进了以人为本的思维。

其他书籍,如 Ruha Benjamin 的Race After Technology:Abolitionist Tools for the New Jim Code紧随其后的是如何改变算法以增加经济机会和减少种族偏见。

社会心理学家 Shoshanna Zuboff 于 2019 年出版的《监视资本主义时代》一书展示了谷歌从“不作恶”的早期座右铭转变为“混淆这些过程及其影响”的有计划的努力。Zuboff 的解决方案是呼吁改变商业模式、民主监督和隐私保护区。学者 Kate Crawford 在她 2021 年出版 的《人工智能地图集》一书中发表了另一项毁灭性的泥靴分析, 重点关注人工智能对工作、环境、人际关系和民主的榨取和破坏力。她在美国国家工程院的一场引人入胜的讲座中对此作了进一步的完善,描述了人工智能研究人员和实施者可以采取的建设性行动,同时鼓励政府监管和个人努力保护隐私。

泥地靴活动家因其积极的研究贡献而获得认可,这些贡献提供了有益于人们的巧妙设计。2021 年 10 月, Cynthia Rudin 获得了人工智能促进协会颁发的 100 万美元的人工智能造福人类奖。她在可解释形式的 AI 方面的工作是对不透明黑盒算法令人眼花缭乱的复杂性的回应,这让人们很难理解为什么他们因假释、抵押贷款或工作而被拒绝。

许多泥地靴思想家是女性,但男性也谈到了人道监督的必要性。技术先驱 Jaron Lanier 在他的《立即删除社交媒体帐户的十个论点》中也提出了担忧,该文件确定了社交媒体的危害,并建议用户更好地控制自己对社交媒体的使用。法律学者 Frank Pasquale 的机器人新定律解释了为什么 AI 开发人员应该重视人类专业知识、避免技术军备竞赛并对他们创造的技术负责。然而,通过以人为本的设计来确保人为控制将需要对国家政策、商业实践、研究议程和教育课程进行重大改变。

这个阵营的多元化工作者——包括女性、非二元性人群、残疾人和有色人种——传达了重要信息,以确保将蓝天梦想转化为可实现的产品和服务,从而造福人类并保护环境。

相关文章
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能与未来社会的交响曲
在这篇充满启示性的文章中,我们将探讨人工智能(AI)如何在现代社会中扮演着越来越重要的角色,并预测它将如何塑造我们的未来。通过简单易懂的语言,我们将揭示AI技术的本质和它带来的深远影响,同时分享一些真实的故事来说明AI技术是如何改变人们生活的。最后,我们会思考如何在这个由AI驱动的未来中找到我们的方向,并保持初心。
|
人工智能
AI时代已来,吴恩达呼吁向每个孩子教授人工智能知识
AI时代已来,吴恩达呼吁向每个孩子教授人工智能知识
105 0
AI时代已来,吴恩达呼吁向每个孩子教授人工智能知识
|
人工智能 搜索推荐 大数据
人工智能准备好乘风破浪了吗?
如何在组织中利用人工智能的力量?
91 0
人工智能准备好乘风破浪了吗?
|
人工智能
人工智能在聚变中的应用
Nuclear fusion using magnetic confinement, in particular in the tokamak configuration, is a promising path towards sustainable energy. A core challenge is to shape and maintain a high-temperature plasma within the tokamak vessel. This requires high-dimensional, high-frequency, closed-loop control us
120 0
AI:2020年7月10日世界人工智能大会WAIC青少年人工智能创新发展论坛《人工智能从娃娃抓起》
AI:2020年7月10日世界人工智能大会WAIC青少年人工智能创新发展论坛《人工智能从娃娃抓起》
|
机器学习/深度学习 人工智能 运维
人工智能花开三朵,如何完整绽放?
人工智能花开三朵,如何完整绽放?
人工智能花开三朵,如何完整绽放?
|
机器学习/深度学习 人工智能 自然语言处理
2021年人工智能将在抗疫中再显身手
在新冠肺炎疫情席卷全球之前,人工智能(AI)尤其是其分支——机器学习(ML)技术,已经在几乎所有行业发挥作用。
3154 0
2021年人工智能将在抗疫中再显身手
|
人工智能 达摩院 自动驾驶
马云、马斯克同台谈AI:人工智能拯救世界?
双马像是来自不同的星球,因人工智能而聚首,一方支持人类文明,一方推崇科技智能,在世界人工智能大会上演了一场“功守道”。今年受疫情影响,马云与马斯克并未亲临大会现场,而是以视频的方式分别发表了演讲,这与去年二人并肩而坐、侃侃而谈“人类 PK 技术,谁是赢家?”的景象大不相同。但两位“大牛”的发言仍然妙语连珠、引人深思,犹如隔空对话,俨然是去年对话主题的延续。经此一“疫”,“双马”对于人工智能如何赋能人类,较去年有了新的理解。
1124 0
马云、马斯克同台谈AI:人工智能拯救世界?
|
机器学习/深度学习 人工智能 算法
安全人工智能应用之我见:时代“风口”的交叉点
当有一天,100%的企业都安家云上,安全一定不是仅仅用人力可以解决的问题,每个机器大脑背后的智慧,是推动云安全前进的关键。
5387 0
|
人工智能 机器人
人工智能革命号角正在打响,机器人应用蔚然成风。
19世纪的工业革命,它创造了一个新的无产阶级,现在到了21世纪,人工智能的革命号角正在打响,目前的技术在某种程度上把人变成了神,展现了技术的颠覆力量,迸发的能量超乎想象,比如将人工智能和生物技术相互结合起来具备了设计和创造生命的能力。
1173 0