2018年哪项AI研究最紧迫?DeepMind联合创始人说是AI伦理-阿里云开发者社区

开发者社区> 量子位> 正文
登录阅读全文

2018年哪项AI研究最紧迫?DeepMind联合创始人说是AI伦理

简介:
本文来自AI新媒体量子位(QbitAI)

2018年,正火热的人工智能会朝什么方向发展?

DeepMind联合创始人苏莱曼(Mustafa Suleyman)今天在《连线》上发表文章,给出了他心目中的答案。

苏莱曼在DeepMind主管“应用AI”。他19岁从哈佛辍学,在联合创立DeepMind之前先后建立过穆斯林青年求助热线、冲突解决咨询公司Reos Partners,做过伦敦市长的政策专员,还为联合国、荷兰政府、WWF工作过。

28bf6246bfdbbc76fb8ce3e04a790b8e56cb3305

以下内容,量子位翻译自他的《连线》专栏文章:

从气候变化到粮食供给,再到为不断增长的全球人口提供医疗保健服务,人类正面临各种各样复杂的挑战。如果不解决这些挑战,那么人类社会可能会面临极其严重的破坏。

幸运的是,人工智能的发展可以扮演创新角色,帮助我们解决这些问题。

与此同时,人工智能技术与社会经济的整合也带来了自身的挑战。这类技术可以解决经济不平等问题,但如果技术福利没有广泛传播,那么可能会导致问题变得更严重。这类技术可以揭露破坏性的人类偏见,帮助社会解决这些偏见,也有可能加强偏见,导致偏见被固化。

如果想要确保方向正确,就必须认真研究人工智能的社会效应,并建立伙伴关系,确保技术为公众利益服务。

这也是为什么我预计,关于人工智能伦理、安全和社会影响的研究将成为未来一年中最紧迫的课题之一。

在这些方面,我们已经完成了有价值的工作。例如,社会正在形成共识,即新技术的开发者有责任协助解决不平等、不公平和偏见带来的问题。2018年,我们将看到更多团队开始着手这方面研究。

这并不容易:技术圈往往会陷入简单化的思维方式,将复杂的价值评判替换为简单的指标。这些指标可以追踪,并且随时间推移可以不断优化。

当然,计算“点赞”次数要比理解为什么“点赞”,以及这对自信和自尊有什么样的影响要简单得多。然而,这些社会效应很重要。这要么有助于创造出解决问题的环境,要么会造成怨恨和恐惧的氛围:对于企业牺牲社会利益换取商业利益,公民会感到愤怒。

这个领域的发展还需要建立新的决策机制,直接引入公众的声音。对于一个倾向于单方面解决问题,或是将问题丢给其他人去解决的行业来说,这将是根本性的改变。

尽管如此,作为社会活动者出身的人,我可以看到,许多科技领域工作者正尝试真正地改善世界。这些人相信,他们与那些献身于理解事物含义的人群有天然的亲密关系。

受此鼓舞的人们,例如创立了“ Time Well Spent”运动的Tristan Harris,正在建立新联盟来对抗“注意力经济”。分别来自微软和谷歌的Kate Crawford和Meredith Whittaker共同创立了“AI Now”组织,研究科技对社会的影响。此外,“Partnership On AI”将多家领先的人工智能研究实验室(包括我的公司DeepMind)首次连接至知名的非营利组织,例如美国公民自由联盟。这个项目的目标是推动技术专家和社会活动家的共同参与。

正确处理这些事情并不仅仅是出于善意。我们需要从事困难、有实际意义、混乱的工作,理解人工智能的道德究竟是什么。如果我们成功让人工智能为人类和地球工作,那么随之而来的影响将具有转型意义。目前,所有一切都还需要研究。

57e258a662d11904c1dc4b138de81f9dd1a997c2

 图片来源:Wired;作者:Janne Iivonen

原文地址:http://www.wired.co.uk/article/mustafa-suleyman-deepmind-ai-morals-ethics

本文作者:维金
原文发布时间:2018-01-06

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享: