这个AI给照片穿上“隐身衣”,让面部识别系统认不出你!-阿里云开发者社区

开发者社区> -技术小助手-> 正文

这个AI给照片穿上“隐身衣”,让面部识别系统认不出你!

简介: 这个AI给照片穿上“隐身衣”,让面部识别系统认不出你!
+关注继续查看

先来玩一个“大家来找茬”。

应该没有人不认识英国女王伊丽莎白二世吧?但如果文摘菌说,其实这不是“一个人”,你能看出左右两张照片有什么不同吗?

在肉眼看来,这大概率就是“英国女王在逃姐妹”了,但是对于人脸识别系统来说,这两张照片可是天差地别的不同。

这是芝加哥大学沙地实验室(Sand Lab)的科学家们创建的一个叫做Fawkes的工具,该工具主要使用AI技术,神不知鬼不觉地修改你的照片,以欺骗面部识别系统。

那么,为啥要让机器认不出你呢?

很有必要!

如今,无处不在的人脸识别系统对于我们的隐私造成了巨大的威胁,一些技术公司在网上大规模地搜集我们在社交媒体上分享的照片,将其用于训练用于商业销售的算法,任何人都可以购买这些工具系统,在几秒钟内辨别出谁是谁。

这已经够可怕了,但更可怕的是,有人会私自用你的照片来打广告。

这样的事情就真实地发生在了一位名叫Shelby Church的博主身上,她表示,自己没有签订相关的合同,也没有允许任何商业机构使用自己的照片。但正是由于如今照片的可获得性,以及缺少版权审批流程,相关的事情才得以发生。

也正是在这个背景下,芝加哥大学沙地实验室的科学家们创建了这个叫做Fawkes的工具,让机器无法认出你。

研究人员介绍道,Fawkes是以《V字仇杀队》漫画和电影中革命者戴上的Guy Fawkes面具而命名的。

这个工具,能让你的脸不是你的

Fawkes的工作方式说简单也简单,说复杂吧,也稍微有点复杂。

根据研究人员介绍,Fawkes处理后的照片不是直接让你“隐身”了,而是对照片进行一些微妙的修改,虽然肉眼看上去没什么差别,但是任何算法在扫描这些时,会把你看成一个完全不同的人。

也就是说,从本质上讲,Fawkes处理后的照片就像给照片添加了一个隐形的面具。

研究人员把这一过程称为“伪装”,它的目的是破坏面部识别系统运作所需的资源,也就是他们从社交媒体上搜罗的人脸数据库。

例如,面部识别公司Clearview AI声称已经从Facebook、YouTube和Venmo等网站收集了大约30亿张人脸图像,用来识别陌生人,但研究人员表示,如果你在网上分享的照片经过了Fawkes处理,那么算法识别的结果就是你的脸其实不是你的。

研究人员利用微软、亚马逊、旷视的人脸识别系统进行实验后,Fawkes的对抗识别取得了100%的成功。

比较未使用Fawkes处理和处理后的脸部。图源:芝加哥大学SAND Lab

“我们正在做的就是本质上像特洛伊木马一样,使用伪装的照片来破坏未经授权的模型,让模型了解让你看起来像你而非他人的错误信息。”帮助创建Fawkes软件的芝加哥大学计算机科学教授Ben Zhao表示。

“一旦破坏完成,无论你走到哪里,或者被人看到,你都会被持续保护。”

Fawkes对于科技公司而言意味着什么?

今年早些时候,研究人员就发表了一篇关于该算法的论文。

上个月底,他们发布了Fawkes的Windows版本和Mac版本的免费软件,任何人都可以下载和使用,到目前为止,Fawkes的下载量已经超过了10万次。

不少人使用Fawkes的反馈是,Fawkes的设计很粗糙,应用起来非常简单,处理的速度也很快,每张照片只需要几分钟,而且几乎察觉不到处理前后的差异。

此前,《纽约时报》的一篇报道指出,Fawkes的隐身效果相当明显,系统会对进行性别化的改变,比如女性修出一些胡子。Fawkes团队表示,更新后的算法会微妙很多。

但是,Fawkes是保护隐私的灵丹妙药吗?这是存疑的。

首先还是使用的问题。如果你决定以后上传到社交媒体上的照片都先用Fawkes处理一下,那你肯定是少数。面部识别之所以令人担忧,是因为这是一个社会趋势,解决方案也自然需要全社会共同参与,如果只有精通技术的人采用相关的屏蔽技术,那只会造成不平等和歧视。

其次,很多人脸识别算法公司很早以前就建立了人脸数据库,你无法追溯这些信息。Clearview AI的CEO Hoan Ton-That也曾这样告诉《时代周刊》,“互联网上有数十亿张未经修改的照片都放在不同的域名上,实际上,要完善像Fawkes这样的技术并大规模部署,几乎可以肯定为时已晚”。

不过,Fawkes团队对这种评价持反对态度,他们指出,虽然像Clearview AI这样的公司声称拥有数十亿张照片,但当你考虑到他们的识别对象是数亿用户时,这就不算什么了。“对于很多人来说,Clearview AI有可能只拥有非常少的公开照片,如果未来人们发布更多的隐身照片,迟早有一天,隐身照片的数量会超过未隐身的照片”。

在应用方面,Fawkes团队承认,他们的软件要想真正发挥作用,就必须更大规模的发布。出于安全考虑,他们没有计划制作网页或移动应用,但是他们也希望,像Facebook这样的公司未来可以将类似的技术整合到自己的平台上。

这项技术其实是符合大科技公司利益的,Zhao说。毕竟,像Facebook这样的公司不希望人们停止分享照片,同时他们仍然也可以从中收集他们需要的数据用于照片标签等,然后再将它们隐匿在公共网络上。整合这项技术可能只会对目前的用户产生很小的影响,但它可以帮助说服未来注重隐私的一代人注册这些平台。

“被如Facebook或其他大平台采用的话,对Clearview AI这类公司会产生巨大的影响,因为基本上会使他们的技术无效,以至于它作为一项服务将不再有用或在财务上变得不可行,”Zhao说,“Clearview AI这样的公司如果因不再提供相关或准确的结果而倒闭,那会是对我们工作的极大褒奖”。

相关报道:
https://www.theverge.com/2020/8/4/21353810/facial-recognition-block-ai-selfie-cloaking-fawkes
https://onezero.medium.com/a-scammer-turned-my-face-into-a-google-ad-5d4e7c65718e

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
开启预警系统 让ESET也来玩“云安全”
本文讲的是开启预警系统 让ESET也来玩“云安全”,很多用户都在使用ESET NOD32杀毒软件,其自带的强大实时监控和“启发式”杀毒技术使得用户不用担心电脑遭遇病毒、木马侵袭,为系统安全运行提供有力保障,同时,对于目前较为流行的“云安全”技术,其实细心的用户也许会发现,在ESET NOD32杀毒软件中,也同样可以实现。
892 0
自己定制OpenVZ的操作系统模版
Creating a CentOS 5.0 Template Install a system (virtual or physical) with the default CentOS installation that you wish to package.
630 0
使用OpenApi弹性释放和设置云服务器ECS释放
云服务器ECS的一个重要特性就是按需创建资源。您可以在业务高峰期按需弹性的自定义规则进行资源创建,在完成业务计算的时候释放资源。本篇将提供几个Tips帮助您更加容易和自动化的完成云服务器的释放和弹性设置。
8096 0
让系统更清晰——解构复杂系统的五种常用模型
本文介绍了五种解构复杂系统的常用模型,分别为思维导图、概念导图、系统导图、心智模型以及概念模型;针对每种模型,作者给出了相关的制作规则以及案例,读者可以根据自身情况选择合适的模型,对复杂系统进行更深入的了解。
9091 0
1457
文章
0
问答
来源圈子
更多
+ 订阅
文章排行榜
最热
最新
相关电子书
更多
文娱运维技术
立即下载
《SaaS模式云原生数据仓库应用场景实践》
立即下载
《看见新力量:二》电子书
立即下载