算法识别团伙犯罪引发巨大争议,研发者:我只是个工程师-阿里云开发者社区

开发者社区> 大数据文摘> 正文
登录阅读全文

算法识别团伙犯罪引发巨大争议,研发者:我只是个工程师

简介:

“我只是一个工程师。”

面对自己开发的算法可遭受到的道德指责,哈佛大学的一位论文作者这样公开回应道。

可能连他自己也没有想到,他的这句回复引发一波了关于AI伦理甚至技术人员责任的巨大争论。

5f9f9d80a6b4dd3fcf5c3aecef373bc702b0d48a

在这波讨论中,二战时一位德国火箭科学家Wernher von Braun的故事持续被提到:在被问及“你的火箭要发射到哪里”时,这位研究者回复道,“That's not my department!(这不归我的部门管)

技术人员是否应该在研究之外分出心力,了解自己研究背后更深的影响呢?

这一在战争年代常引发巨大争议的话题,在人工智能的威胁日渐露出的今天,又被重新提上辩论场。

a4372058399abddd8dceb56cb71d370902098549

我的征途是星辰大海,但是不小心打到了伦敦

引发讨论的是哈佛大学Crowd Innovation Lab参与的一项研究——使用算法自动识别一起犯罪是否属于团伙犯罪。

431df7b81497d5d539350fa81fd12f9cab32c70f

在美国,当有人殴打行人、抢劫商店或冷血杀人时,警察需要派遣一个特别的执法小组,调查此人是否隶属某个犯罪团伙成员。现在,一种新的算法正在试图自动化识别团伙犯罪。

这一研究引发了另外一批科学家的反对:其非但不会减少犯罪率,反而会削弱人们对社会的信任,或者将无辜的人打上犯罪团伙成员的烙印。

2018年2月,研究人员在新奥尔良举办的人工智能、道德与社会(AIES)会议上发表了这一最新成果。

论文链接:

http://www.aies-conference.com/wp-content/papers/main/AIES_2018_paper_93.pdf

争议声自演讲现场开始发酵。

一位听众、谷歌软件工程师Blake Lemoine当场愤然离席。他表示:“这个研究成果无懈可击,但研究人员是否考虑过可能出现的意外副作用?”

多年来,科学家们一直在使用计算机算法来绘制犯罪网络图,或者预测未来犯罪的地点和时间,这种做法被称为警务预测。但有关将犯罪标记为与犯罪团伙的研究很少。

ca379d1785caebe0b96964d7c0079c9a31673628

这一新算法中,研究人员可以根据四种信息将罪犯识别为犯罪团伙成员:犯罪武器、涉案人数、案发地点(如胡同或街角)以及此地点的周围环境。加州长滩市检察官Doug Haubert表示,此类分析有助于在罪犯得到充分调查之前对犯罪行为进行定性,这改变了警方原有的反应方式。

为了对犯罪行为进行分类,研究人员发明了一种特别的神经网络算法。一个神经网络是由很多层计算单元组成的,这种数据处理的方法使人联想到大脑的神经元。这种新的机器学习形式可以根据反馈情况对算法进行改进、优化。

在该研究中,研究人员利用加州洛杉矶警察局(LAPD)2014年至2016年期间的数据,在50000多起犯罪团伙性质和非犯罪团伙性质的凶杀案、严重袭击案和抢劫案数据上训练了算法。

研究人员在另一组LAPD数据上测试了他们的算法。这个网络是“部分生成的”,因为即使没有收到警官关于犯罪的描述,模型也可以使用上述四个因素来填补缺失的信息,然后用所有的片断来推断犯罪是否与犯罪团伙有关。

与未采用这种新方法的精简版神经网络相比,部分生成算法将错误率减少了近30%。研究人员还没有测试他们的算法是否比训练有素的官员的判断更准。

“这篇论文很有趣”,卡迪夫大学研究犯罪数据的计算机科学家Pete Burnap说,“但是,尽管预测可能有用,还是不可能比警官们的直觉更准确”。

Haubert对此表示赞同,但他表示,借助数据建模有时可以产生“更好更快的结果”,这样的分析“在可以获得大量数据的城市地区尤其有用”。

但是,如何确定训练数据没有偏见?当某人被误认为犯罪团伙成员时会发生什么?Lemoine在AIES会议问答环节提出了担忧。

更进一步的担忧是,研究人员是否也在开发能够帮助犯罪团伙预测警方搜捕的算法?

当时,哈佛大学的一位计算机科学家Hau Chan正在介绍这项工作,他回答说,他不确定新工具将被怎样使用。

我只是一名工程师”,他说。

Lemoine引用了一首关于战时火箭科学家Wernher von Braun的歌曲的歌词:“一旦火箭发射了,谁在乎它们在哪里落下来?”随即愤怒地走了出去。

Wernher Von BraunTom Lehrer - That Was The Year That Was

Wernher von Braun被涉及的部分歌词:

Don't say that he's hypocritical

Say rather that he's apolitical

"Once the rockets are up, who cares where they come down?

That's not my department!" says Wernher von Braun

Lemoine随后接受了Science的采访,“我们该不该为警察建立工具,这并不是我想讨论的重点。”Lemoine说(他特意指出,他是以个人身份发声,而不是代表谷歌)。

“我认为,当你创造一个强大的事物时,你至少有责任考虑它可能被如何使用。”

这篇论文的另外两位作者也就此问题接受了Science记者近20分钟时间的采访。“目前这很难说”,加州大学洛杉矶分校的人类学家Jeffrey Brantingham说。

“这是一项基础研究”,南加州大学的计算机科学家Milind Tambe表示同意。

采访中,这两位研究人员更乐于谈论的是部分生成神经网络的其他应用:分类野生动物犯罪,改善草场管理,预测哪些人最擅长向朋友传播公共卫生信息。

而对于算法该如何使用,他们一直三缄其口。


原文发布时间为:2018-03-7

本文作者:文摘菌

本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“大数据文摘”微信公众号

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
大数据文摘
使用钉钉扫一扫加入圈子
+ 订阅

官方博客
最新文章
相关文章
官网链接