「看面相识别罪犯」论文要上Nature?遭1700名科学家联名反对-阿里云开发者社区

开发者社区> 开发者小助手-bz8> 正文

「看面相识别罪犯」论文要上Nature?遭1700名科学家联名反对

简介: 有 1700 名研究者签字联名抵制 Nature 出版一篇 AI 研究论文,这可是头一次。
+关注继续查看


微信图片_20211203230542.png


「我们敦促审核委员会公开撤销论文通过的决定,并解释评估该论文通过的标准。Springer 需要公开声明谴责使用刑事司法统计数据预测犯罪行为,并承认其过去在激励这种有害学术方面的作用。所有出版商今后都不要发表类似的研究。」


在一份长长的公开信中,数千名 AI 研究人员呼吁科学出版商 Springer Nature 不要发表一篇论文。据介绍,该研究提出了一种面部识别系统,能够预测一个人是否为犯罪分子。这篇论文由美国哈里斯堡科技大学(Harrisburg University of Science and Technology)提交。


是什么研究引发了如此争议?在这篇名为《A Deep Neural Network Model to Predict Criminality Using Image Processing》的论文中,研究人员称该技术没有种族偏见,根据照片中人的面部特征预测是否为罪犯的准确性达到了 80%,这一深度学习方法是面向执法机构开发的。


这篇论文的第一作者,哈里斯堡科技大学在读博士 Jonathan Korn 是一名前纽约警察。同为论文作者的 Roozbeh Sadeghian 教授在论文提交的新闻中表示:「我们知道机器学习技术在与面部识别和情感检测有关的各种任务上可实现超过人类的水平。新研究表明,这些工具可以从图像中提取出高度可预测犯罪的微小特征,这证明了新方法的强大。」


在原先的计划中,这篇论文会被收录在《自然》研究丛书「Springer Nature – Research Book Series: Transactions on Computational Science & Computational Intelligence」中。


「通过无偏见地自动识别潜在威胁,我们可以实现预防犯罪的目标,为执法部门和军事应用提供受到隐形偏见和情感因素更小的工具,」论文作者之一的 Nathaniel Ashby 表示。「我们的下一步是寻找合作伙伴以推进这一使命。」

然而事情并不如作者所想的那样顺利。在新闻发布之后,「AI 看人脸预测犯罪」的研究很快引发了不小的争议。在社交网络上,业界专家就效率、隐私和道德等原则达成了共识,称该计划不负责任、牵强附会且「错得离谱」,因为这可能引出 AI 判断一些人是天生罪犯的奇怪结果。


微信图片_20211203230550.png

在论文提交后,哈里斯堡科技大学的新闻稿。在 5 月份这篇新闻因争议过大又被删除。


自 5 月论文提交的消息被曝出后,这一研究一直被科学界关注与讨论。在最近的公开信中,已经有来自哈佛大学、MIT、谷歌以及微软的学者和 AI 领域的专家在这封公开信上签字。他们呼吁出版公司 Springer 停止发表这篇论文:「我们是来自不同科技领域、学科和人文领域的研究者及从业人员,我们对于即将出版的论文深表关注。」


公开信的组织者之一 Audrey Beard 在一份邮件声明中表示:「根本无法开发出不存在种族偏见的犯罪预测系统,因为刑事司法数据本身就是存在种族偏见的。」


这已经不是 AI 研究者第一次提出这样令人质疑的研究了。


根据人的相貌来评估犯罪几率,这让人们想到了 2016 年 11 月上海交大提交到预印版论文平台 arXiv 上的论文《使用脸部图像自动推断罪犯》,研究者声称通过大量证件照片的训练,神经网络模型可以在识别罪犯时准确率达到 87%。在当年,该研究也曾引起学术界和舆论界的大量讨论。


昨晚,Nature 作出了澄清,哈里斯堡科技大学的文章不会被《自然》杂志出版:


微信图片_20211203230553.png


但还是有人继续质问:「为什么这样的文章会进入 Nature 的审核流程?」看来想要消除深度学习的偏见,避免其成为「作恶」的工具,我们还有很多事情要做。


公开信:https://medium.com/@CoalitionForCriticalTechnology/abolish-the-techtoprisonpipeline-9b5b14366b16


参考内容:https://www.biometricupdate.com/202005/biometric-software-that-allegedly-predicts-criminals-based-on-their-face-sparks-industry-controversy

WAIC 2020 黑客马拉松由世界人工智能大会组委会主办,张江集团、优必选科技、软银集团旗下软银机器人、Watson Build 创新中心、机器之心联合承办,受到新冠疫情的影响,比赛将于 7 月 8 日 - 11 日期间以远程和小规模线下结合的方式举办,招募全球顶级开发者同台竞技。


点击图片或「阅读原文」搭乘参赛


微信图片_20211203230556.jpg


阅读原文

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
阿里云服务器怎么设置密码?怎么停机?怎么重启服务器?
如果在创建实例时没有设置密码,或者密码丢失,您可以在控制台上重新设置实例的登录密码。本文仅描述如何在 ECS 管理控制台上修改实例登录密码。
8490 0
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,大概有三种登录方式:
2779 0
阿里云服务器ECS远程登录用户名密码查询方法
阿里云服务器ECS远程连接登录输入用户名和密码,阿里云没有默认密码,如果购买时没设置需要先重置实例密码,Windows用户名是administrator,Linux账号是root,阿小云来详细说下阿里云服务器远程登录连接用户名和密码查询方法
10924 0
阿里云服务器端口号设置
阿里云服务器初级使用者可能面临的问题之一. 使用tomcat或者其他服务器软件设置端口号后,比如 一些不是默认的, mysql的 3306, mssql的1433,有时候打不开网页, 原因是没有在ecs安全组去设置这个端口号. 解决: 点击ecs下网络和安全下的安全组 在弹出的安全组中,如果没有就新建安全组,然后点击配置规则 最后如上图点击添加...或快速创建.   have fun!  将编程看作是一门艺术,而不单单是个技术。
10304 0
使用OpenApi弹性释放和设置云服务器ECS释放
云服务器ECS的一个重要特性就是按需创建资源。您可以在业务高峰期按需弹性的自定义规则进行资源创建,在完成业务计算的时候释放资源。本篇将提供几个Tips帮助您更加容易和自动化的完成云服务器的释放和弹性设置。
11872 0
windows server 2008阿里云ECS服务器安全设置
最近我们Sinesafe安全公司在为客户使用阿里云ecs服务器做安全的过程中,发现服务器基础安全性都没有做。为了为站长们提供更加有效的安全基础解决方案,我们Sinesafe将对阿里云服务器win2008 系统进行基础安全部署实战过程! 比较重要的几部分 1.
8729 0
腾讯云服务器 设置ngxin + fastdfs +tomcat 开机自启动
在tomcat中新建一个可以启动的 .sh 脚本文件 /usr/local/tomcat7/bin/ export JAVA_HOME=/usr/local/java/jdk7 export PATH=$JAVA_HOME/bin/:$PATH export CLASSPATH=.
4551 0
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,云吞铺子总结大概有三种登录方式: 登录到ECS云服务器控制台 在ECS云服务器控制台用户可以更改密码、更换系统盘、创建快照、配置安全组等操作如何登录ECS云服务器控制台? 1、先登录到阿里云ECS服务器控制台 2、点击顶部的“控制台” 3、通过左侧栏,切换到“云服务器ECS”即可,如下图所示 通过ECS控制台的远程连接来登录到云服务器 阿里云ECS云服务器自带远程连接功能,使用该功能可以登录到云服务器,简单且方便,如下图:点击“远程连接”,第一次连接会自动生成6位数字密码,输入密码即可登录到云服务器上。
21643 0
阿里云ECS云服务器初始化设置教程方法
阿里云ECS云服务器初始化是指将云服务器系统恢复到最初状态的过程,阿里云的服务器初始化是通过更换系统盘来实现的,是免费的,阿里云百科网分享服务器初始化教程: 服务器初始化教程方法 本文的服务器初始化是指将ECS云服务器系统恢复到最初状态,服务器中的数据也会被清空,所以初始化之前一定要先备份好。
6557 0
1574
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
《2021云上架构与运维峰会演讲合集》
立即下载
《零基础CSS入门教程》
立即下载
《零基础HTML入门教程》
立即下载