万人上书贝索斯,抗议亚马逊向警方出售人脸识别技术

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 近日,二十多家机构联名向亚马逊 CEO 贝索斯上书,抗议该公司将人脸识别技术出售给警方。人们之所以如此愤怒的原因在于,人脸识别技术在执法部门的使用权限和用途并没有明确的法律规定,毫不讽刺地说,执法的警察本身就是在做一件无法可依的事。

为人们所熟知的亚马逊是那个自称可以在这里“买到一切”的网上商城,但最近,人们了解到这家公司还有另外一些很少有人知道的商品——警方花钱从亚马逊买进人脸识别技术Rekognition,可以实时从数百万张人脸中识别出警方在寻找的人。

fb4ac2ca285192d859fdce6356760021a0f949a8

早在 2012 年,Rekognition 就由中国留学生王盟和刘天强创立的 Orbeus 公司开发推出,后来被亚马逊收购,成立了日后的 Amazon Rekognition team。可能是因为美国的隐私政策限制,这项技术并没有被美国警察部门大规模使用。

事实上,亚马逊并不是唯一一家提供类似“公共场所服务”的公司,位于马萨诸塞州的MorphoTrust 就被曝光向 FBI 和其他执法部门提供人脸识别技术。底特律也向 Data Works Plus 购买类似的技术,以在加油站录像中识别暴力犯罪人员。但为什么亚马逊会成为声讨的对象呢?因为亚马逊是第一家向执法部门提供人脸识别技术的大公司

在 ACLU(美国公民自由协会,American Civil Liberties Union,现有会员超过50万)曝光了这桩买卖之后,包括 ACLU 在内的二十多家非盈利性组织即向亚马逊 CEO 杰夫·贝索斯上书,要求他停止向警察销售此系统。

这封信中说,该技术将不可避免被当局滥用,并指控亚马逊提供“强大的监控系统会违反人权,对社区形成巨大威胁,包括有色人种和移民。警方可能会利用其追踪抗议者或其他被警方列为嫌疑人的目标,而不仅仅是罪犯”。

联名信原文链接:

https://www.aclunc.org/docs/20180522_AR_Coalition_Letter.pdf

亚马逊回应:并未向警方提供特殊服务

据《纽约时报》报道,这项技术上线一周后即显神效,抓到了一个从商店偷盗 5000 美元的小偷,而且这个系统成本很低,花费 400 美元搭建之后每月只用花几美元进行维护。

对于来势汹汹的声讨,亚马逊作出了略显鸡肋的回应:

亚马逊所有的顾客都需要遵守法律规定并负责任。亚马逊并没有向执法部门提供任何有区别于其他客户的服务。

在一份声明中,亚马逊一位发言人强调该公司向大众提供的这种“通用”的图像识别技术可以自动识别人、物体和活动,机构采用该技术寻找丢失儿童、识别婚宴来宾等。

256fdfcb900b84fa7ae09294a21c48ec9a0b41e9

亚马逊官方还在此前上传至 YouTube 的一则亚马逊 Rekognition 总经理讲解这一服务的视频评论区发出声明,称该 GM 的讲解有误,奥兰多警方只是在进行该服务的内部测试,并没有在全城安装摄像头或使用该产品,并为此造成的误解向公众道歉。

没有监管的法外之地

执法机关与人脸识别的“媾合”:你能想象执法机关把你当成潜在罪犯,每天早上出门上班开始你的脸就被瞄准框锁定,监视你的一举一动吗?

这次的争议引发了一个质疑:警方使用人脸识别技术有什么法律规定进行监管和约束吗?我们得到的答案是:几乎没有

在美国,联邦和州政府通常被授予行使从公共摄像头手机的人脸信息中搜索视频和图像的权利。城市和当地部门可以制定本地政策和指导方针,但是早期的人脸识别技术采用部门并没有系统制定的规则。

ACLU 公布的文件显示,亚马逊和奥兰多和佛罗里达合作,构建了一个用八台公共摄像头捕捉警方“感兴趣目标”的系统。当被问到该系统运行是否遵有法可依时,一位发言人称,“由于这是个试点项目,目前还未制定相关政策”。

据公开的文件显示,奥兰多警察局长称该系统使用之前曾经过测试,证明该系统可以提高公众安全,并提高执法效率。但奥兰多一位发言人称,这只是早期的测试,他们并没有数据证明该系统确实有效,并称还未用于调查和从公共场合取像。

文件还显示,警局工作人员中其实有人对将市民人脸图像存放在亚马逊云中的做法存疑,这一行为被视为“政府与大数据的媾合”。

“在美国的宪法中没有提及大数据,但也没有对人脸识别提供庇护,”亚利桑那大学的法学教授 Jane Bambauer 说道。“州法律同样也没有关于警方使用人脸识别的规定。”

对此,ACLU 科技与公民自由主任 Nicole Ozer 称,目前只能寄希望于向亚马逊、执法部门和当地社区施压,制定自己的规则。“出台法律的速度太慢了,赶不上形势的需求。”

电子前线基金会的高级律师 Jennifer Lynch 称,“这是一个科技走在法律之外的典型例子,根本没有监管存在。”

识别准确率不够,有色人种识别更差

也许有一天一位黑人朋友在大街上悠闲地嗦着冰淇淋,就被一群警察带走了,然后他们发现,搞错了...

警方使用人脸识别技术另一个让人担忧的原因是,识别准确率并没有想象中高,并不是在所有执法情境中都好用。据 FBI 2017 年公布的资料显示,该机构使用算法从大数据中挑选的 50 多个最接近“嫌疑目标”的识别率为 85%,去年英国南威尔士警方在一次足球比赛中的识别准确率更惨,只有 8%。

在性别和种族识别上,这项技术也并不完美。麻省理工学院的一份调查显示,黑皮肤的女性被人脸识别软件错误识别的几率高达 35%。

有人认为,警方应该公布人脸识别系统的具体数据,包括在不同种族人身上识别的表现,并认为警方现在对人脸识别的无依据使用不会持续太久。

无处不在的监控,真实的《楚门的世界》

想想著名的“魔鬼鱼”事件吧。在美国,联邦和州的执法机构使用一种俗称为“魔鬼鱼”的设备大量获取用户信息。这种强大的监控工具通过模拟手机讯号侵入不知情的公民的手机,借此追踪这些手机的地理位置,甚至截取手机用户的通信内容。

如此堂而皇之地窃取用户信息,这个前车之鉴让人不免担心人脸识别技术避免不了被滥用的命运,在这种技术以合法的面目公然出现在大街小巷时,所有的人都将活在警察局的监视器中,无处躲藏,俨然将上演真实版的《楚门的世界》。

2fa8231d8c926565b6622c09b622f60883e14ffb

人脸识别技术的忠实粉丝将之视为抓捕罪犯的强有力武器,但是不看好它的人却嗅到了大规模监控带来的隐忧。据乔治敦大学法学院隐私和技术中心数据显示,在美国,面部识别技术不仅将罪犯列为识别对象,超过1.3亿美国成年人都在犯罪搜索数据库中。

当人脸识别与政府“媾合”时,无人可逃。

在美国,竞赛场上会用人脸识别揪出赛事中闹事的人,国安局用它来识别在机场逗留过久的外国游客。

de39956c331bfd7c495afd565b0ea341832be166

商店里装有识别顾客的智能摄像头。

美国可能离国人有点远,那近一点看看国内,其实人脸识别的普遍程度远超我们的想象。

76737a9d4fef0511f6369d890656366a9b9e0f76

不知道上面那位对着机器刷脸取厕纸的妹子当时是什么心情,看起来好像对这个东西挺新奇的,也许是如厕事大,她并没有选择……

但新奇感过后,这件事却让人惊出一层冷汗:当我们做其他的事情也被迫要交出自己的个人信息时,比如抬头可见的监控天网呢,你会选择沉默吗?还是会尝试争取一下自己的利益(虽然很难)?这并不是空穴来风的焦虑,而是大数据时代日益严峻的隐私保护问题。

以上惊悚的事情不只发生在《楚门的世界》,现实生活中已经在不断上演,也许不久的将来,也许现在,你就正在被政府的无数双“眼睛”盯着。是不是听起来毛骨悚然?但这并不夸张。

国人的隐私观和现状

这还不是最让人窒息的,因为作为国情特殊的大国,我国人民向来享受着来自政府部门的“特别关爱”,在隐私这一问题上也不例外,还曾无奈地“被认为不重要”。

比如亚马逊这次和执法部门的合作有人觉得不合理就去抗议,虽然还不知道亚马逊会采取什么具体应对措施,会不会迫于压力终止这次合作,但起码这家巨头迅速做出了回应,并向公众道歉。换成在国内,或许连一点浪花都掀不动

关于中国人对于隐私的看法,相信大多数人的观点都是一样的:隐私被侵犯了,生气,但是除了生气还能怎么办?

f9eb7db77996b51525676b4de7f0363a7281bbbd

以上是网友关于亚马逊与警方合作的观点,归结下来大概分为两大类:

d47e62d2b349aca45e42305ed6714efbe5ed61d9 感叹国内与国外隐私保护差距的
d47e62d2b349aca45e42305ed6714efbe5ed61d9 大数据时代没有隐私可言,自由与安全不可兼得

这些评论虽然并不能概括出国人对于隐私的重视程度几何,但多少能反映出人们普遍存在的心理。

总而言之,中国是目前人脸识别技术政府部门采用最广泛的国家之一,将来会迎来更多关于隐私的问题和讨论,愤怒没有用,我们应该做的,是如何在这种已然形成的大环境下尽量地保留最后的尊严



原文发布时间为:2018-05-28

本文作者:AI前线

本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”。

原文链接:万人上书贝索斯,抗议亚马逊向警方出售人脸识别技术

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
4月前
|
机器学习/深度学习 人工智能 监控
人工智能之人脸识别技术应用场景
人脸识别技术是一种通过计算机技术和模式识别算法来识别和验证人脸的技术。它可以用于识别人脸的身份、检测人脸的表情、年龄、性别等特征,以及进行人脸比对和活体检测等应用。
350 1
|
5月前
|
机器学习/深度学习 算法 PyTorch
深度学习在人脸识别技术中的最新进展
深度学习在人脸识别技术中的最新进展
|
5月前
|
机器学习/深度学习 人工智能 监控
人脸识别技术发展历史、技术全解和实战应用
人脸识别技术发展历史、技术全解和实战应用
230 1
|
5月前
|
人工智能 计算机视觉 Python
人工智能视觉:基于OpenCV的人脸识别技术的深度解析
人工智能视觉:基于OpenCV的人脸识别技术的深度解析
|
6月前
|
机器学习/深度学习 算法 安全
提高人脸识别识别率技术
智能工厂趋势中,人脸识别技术在提升生产效率和安全管理方面展现应用价值。技术挑战包括环境光线控制、背景干扰、数据多样性和算法优化。解决方案涉及模型选择、实时性与准确性平衡,以及使用标签平滑技术减轻模型过拟合,提高泛化能力。通过训练优化的CNN模型,结合数据增强和标签平滑,实现更精准的人脸识别系统。
|
6月前
|
人工智能 算法 计算机视觉
人工智能视觉:基于OpenCV的人脸识别技术的深度解析
人工智能视觉:基于OpenCV的人脸识别技术的深度解析
|
6月前
|
机器学习/深度学习 人工智能 算法
人工智能 - 人脸识别:发展历史、技术全解与实战
人工智能 - 人脸识别:发展历史、技术全解与实战
|
6月前
|
弹性计算 Java PHP
新手用户注册阿里云账号、实名认证、购买云服务器图文教程参考
对于初次购买阿里云产品的用户来说,第一步要做的是注册账号并完成实名认证,然后才是购买阿里云服务器或者其他云产品,本文为大家以图文形式展示一下新手用户从注册阿里云账号、实名认证到购买云服务器完整详细教程,以供参考。
新手用户注册阿里云账号、实名认证、购买云服务器图文教程参考
|
5月前
|
文字识别 算法 API
视觉智能开放平台产品使用合集之uniapp框架如何使用阿里云金融级人脸识别
视觉智能开放平台是指提供一系列基于视觉识别技术的API和服务的平台,这些服务通常包括图像识别、人脸识别、物体检测、文字识别、场景理解等。企业或开发者可以通过调用这些API,快速将视觉智能功能集成到自己的应用或服务中,而无需从零开始研发相关算法和技术。以下是一些常见的视觉智能开放平台产品及其应用场景的概览。
138 0

热门文章

最新文章

下一篇
无影云桌面