这个AI给照片穿上“隐身衣”,让面部识别系统认不出你!

简介: 这个AI给照片穿上“隐身衣”,让面部识别系统认不出你!

先来玩一个“大家来找茬”。

应该没有人不认识英国女王伊丽莎白二世吧?但如果文摘菌说,其实这不是“一个人”,你能看出左右两张照片有什么不同吗?

在肉眼看来,这大概率就是“英国女王在逃姐妹”了,但是对于人脸识别系统来说,这两张照片可是天差地别的不同。

这是芝加哥大学沙地实验室(Sand Lab)的科学家们创建的一个叫做Fawkes的工具,该工具主要使用AI技术,神不知鬼不觉地修改你的照片,以欺骗面部识别系统。

那么,为啥要让机器认不出你呢?

很有必要!

如今,无处不在的人脸识别系统对于我们的隐私造成了巨大的威胁,一些技术公司在网上大规模地搜集我们在社交媒体上分享的照片,将其用于训练用于商业销售的算法,任何人都可以购买这些工具系统,在几秒钟内辨别出谁是谁。

这已经够可怕了,但更可怕的是,有人会私自用你的照片来打广告。

这样的事情就真实地发生在了一位名叫Shelby Church的博主身上,她表示,自己没有签订相关的合同,也没有允许任何商业机构使用自己的照片。但正是由于如今照片的可获得性,以及缺少版权审批流程,相关的事情才得以发生。

也正是在这个背景下,芝加哥大学沙地实验室的科学家们创建了这个叫做Fawkes的工具,让机器无法认出你。

研究人员介绍道,Fawkes是以《V字仇杀队》漫画和电影中革命者戴上的Guy Fawkes面具而命名的。

这个工具,能让你的脸不是你的

Fawkes的工作方式说简单也简单,说复杂吧,也稍微有点复杂。

根据研究人员介绍,Fawkes处理后的照片不是直接让你“隐身”了,而是对照片进行一些微妙的修改,虽然肉眼看上去没什么差别,但是任何算法在扫描这些时,会把你看成一个完全不同的人。

也就是说,从本质上讲,Fawkes处理后的照片就像给照片添加了一个隐形的面具。

研究人员把这一过程称为“伪装”,它的目的是破坏面部识别系统运作所需的资源,也就是他们从社交媒体上搜罗的人脸数据库。

例如,面部识别公司Clearview AI声称已经从Facebook、YouTube和Venmo等网站收集了大约30亿张人脸图像,用来识别陌生人,但研究人员表示,如果你在网上分享的照片经过了Fawkes处理,那么算法识别的结果就是你的脸其实不是你的。

研究人员利用微软、亚马逊、旷视的人脸识别系统进行实验后,Fawkes的对抗识别取得了100%的成功。

比较未使用Fawkes处理和处理后的脸部。图源:芝加哥大学SAND Lab

“我们正在做的就是本质上像特洛伊木马一样,使用伪装的照片来破坏未经授权的模型,让模型了解让你看起来像你而非他人的错误信息。”帮助创建Fawkes软件的芝加哥大学计算机科学教授Ben Zhao表示。

“一旦破坏完成,无论你走到哪里,或者被人看到,你都会被持续保护。”

Fawkes对于科技公司而言意味着什么?

今年早些时候,研究人员就发表了一篇关于该算法的论文。

上个月底,他们发布了Fawkes的Windows版本和Mac版本的免费软件,任何人都可以下载和使用,到目前为止,Fawkes的下载量已经超过了10万次。

不少人使用Fawkes的反馈是,Fawkes的设计很粗糙,应用起来非常简单,处理的速度也很快,每张照片只需要几分钟,而且几乎察觉不到处理前后的差异。

此前,《纽约时报》的一篇报道指出,Fawkes的隐身效果相当明显,系统会对进行性别化的改变,比如女性修出一些胡子。Fawkes团队表示,更新后的算法会微妙很多。

但是,Fawkes是保护隐私的灵丹妙药吗?这是存疑的。

首先还是使用的问题。如果你决定以后上传到社交媒体上的照片都先用Fawkes处理一下,那你肯定是少数。面部识别之所以令人担忧,是因为这是一个社会趋势,解决方案也自然需要全社会共同参与,如果只有精通技术的人采用相关的屏蔽技术,那只会造成不平等和歧视。

其次,很多人脸识别算法公司很早以前就建立了人脸数据库,你无法追溯这些信息。Clearview AI的CEO Hoan Ton-That也曾这样告诉《时代周刊》,“互联网上有数十亿张未经修改的照片都放在不同的域名上,实际上,要完善像Fawkes这样的技术并大规模部署,几乎可以肯定为时已晚”。

不过,Fawkes团队对这种评价持反对态度,他们指出,虽然像Clearview AI这样的公司声称拥有数十亿张照片,但当你考虑到他们的识别对象是数亿用户时,这就不算什么了。“对于很多人来说,Clearview AI有可能只拥有非常少的公开照片,如果未来人们发布更多的隐身照片,迟早有一天,隐身照片的数量会超过未隐身的照片”。

在应用方面,Fawkes团队承认,他们的软件要想真正发挥作用,就必须更大规模的发布。出于安全考虑,他们没有计划制作网页或移动应用,但是他们也希望,像Facebook这样的公司未来可以将类似的技术整合到自己的平台上。

这项技术其实是符合大科技公司利益的,Zhao说。毕竟,像Facebook这样的公司不希望人们停止分享照片,同时他们仍然也可以从中收集他们需要的数据用于照片标签等,然后再将它们隐匿在公共网络上。整合这项技术可能只会对目前的用户产生很小的影响,但它可以帮助说服未来注重隐私的一代人注册这些平台。

“被如Facebook或其他大平台采用的话,对Clearview AI这类公司会产生巨大的影响,因为基本上会使他们的技术无效,以至于它作为一项服务将不再有用或在财务上变得不可行,”Zhao说,“Clearview AI这样的公司如果因不再提供相关或准确的结果而倒闭,那会是对我们工作的极大褒奖”。

相关报道:
https://www.theverge.com/2020/8/4/21353810/facial-recognition-block-ai-selfie-cloaking-fawkes
https://onezero.medium.com/a-scammer-turned-my-face-into-a-google-ad-5d4e7c65718e

相关文章
|
4天前
|
人工智能 前端开发 小程序
2024年12月30日蜻蜓蜻蜓AI工具系统v1.0.0发布-优雅草科技本产品前端源代码已对外开源可免费商用-优雅草老八
2024年12月30日蜻蜓蜻蜓AI工具系统v1.0.0发布-优雅草科技本产品前端源代码已对外开源可免费商用-优雅草老八
2024年12月30日蜻蜓蜻蜓AI工具系统v1.0.0发布-优雅草科技本产品前端源代码已对外开源可免费商用-优雅草老八
|
8天前
|
人工智能 自然语言处理 并行计算
ASAL:Sakana AI 联合 OpenAI 推出自动探索人工生命的系统,通过计算机模拟生命进化的过程
ASAL 是由 Sakana AI 联合 OpenAI 等机构推出的自动化搜索人工生命系统,基于基础模型实现多种搜索机制,扩展了人工生命研究的边界。
59 1
ASAL:Sakana AI 联合 OpenAI 推出自动探索人工生命的系统,通过计算机模拟生命进化的过程
|
25天前
|
机器学习/深度学习 存储 人工智能
【AI系统】昇思MindSpore并行
本文介绍昇思MindSpore的并行训练技术,包括张量重排布、自动微分等,旨在简化并行策略搜索,提高大规模模型训练效率。文章探讨了大模型带来的挑战及现有框架的局限性,详细说明了MindSpore如何通过技术创新解决这些问题,实现高效的大模型训练。
73 20
【AI系统】昇思MindSpore并行
|
22天前
|
机器学习/深度学习 人工智能 自然语言处理
转载:【AI系统】AI的领域、场景与行业应用
本文概述了AI的历史、现状及发展趋势,探讨了AI在计算机视觉、自然语言处理、语音识别等领域的应用,以及在金融、医疗、教育、互联网等行业中的实践案例。随着技术进步,AI模型正从单一走向多样化,从小规模到大规模分布式训练,企业级AI系统设计面临更多挑战,同时也带来了新的研究与工程实践机遇。文中强调了AI基础设施的重要性,并鼓励读者深入了解AI系统的设计原则与研究方法,共同推动AI技术的发展。
转载:【AI系统】AI的领域、场景与行业应用
|
22天前
|
存储 人工智能 vr&ar
转载:【AI系统】CPU 基础
CPU,即中央处理器,是计算机的核心部件,负责执行指令和控制所有组件。本文从CPU的发展史入手,介绍了从ENIAC到现代CPU的演变,重点讲述了冯·诺依曼架构的形成及其对CPU设计的影响。文章还详细解析了CPU的基本构成,包括算术逻辑单元(ALU)、存储单元(MU)和控制单元(CU),以及它们如何协同工作完成指令的取指、解码、执行和写回过程。此外,文章探讨了CPU的局限性及并行处理架构的引入。
转载:【AI系统】CPU 基础
|
18天前
|
人工智能 安全 算法
CAMEL AI 上海黑客松重磅来袭!快来尝试搭建你的第一个多智能体系统吧!
掌握多智能体系统,🐫 CAMEL-AI Workshop & 黑客马拉松即将启航!
CAMEL AI 上海黑客松重磅来袭!快来尝试搭建你的第一个多智能体系统吧!
|
22天前
|
人工智能 缓存 并行计算
转载:【AI系统】CPU 计算本质
本文深入探讨了CPU计算性能,分析了算力敏感度及技术趋势对CPU性能的影响。文章通过具体数据和实例,讲解了CPU算力的计算方法、算力与数据加载之间的平衡,以及如何通过算力敏感度分析优化计算系统性能。同时,文章还考察了服务器、GPU和超级计算机等平台的性能发展,揭示了这些变化如何塑造我们对CPU性能的理解和期待。
转载:【AI系统】CPU 计算本质
|
22天前
|
机器学习/深度学习 存储 人工智能
转载:【AI系统】计算之比特位宽
本文详细介绍了深度学习中模型量化操作及其重要性,重点探讨了比特位宽的概念,包括整数和浮点数的表示方法。文章还分析了不同数据类型(如FP32、FP16、BF16、FP8等)在AI模型中的应用,特别是FP8数据类型在提升计算性能和降低内存占用方面的优势。最后,文章讨论了降低比特位宽对AI芯片性能的影响,强调了在不同应用场景中选择合适数据类型的重要性。
转载:【AI系统】计算之比特位宽
|
22天前
|
机器学习/深度学习 人工智能 算法
转载:【AI系统】关键设计指标
本文介绍了AI芯片的关键设计指标及其与AI计算模式的关系,涵盖计算单位(如OPS、MACs、FLOPs)、关键性能指标(精度、吞吐量、时延、能耗、成本、易用性)及优化策略,通过算术强度和Roofline模型评估AI模型在芯片上的执行性能,旨在帮助理解AI芯片设计的核心考量与性能优化方法。
转载:【AI系统】关键设计指标
|
22天前
|
机器学习/深度学习 人工智能 并行计算
转载:【AI系统】AI轻量化与并行策略
本文探讨了AI计算模式对AI芯片设计的重要性,重点分析了轻量化网络模型和大模型分布式并行两大主题。轻量化网络模型通过减少模型参数量和计算量,实现在资源受限设备上的高效部署;大模型分布式并行则通过数据并行和模型并行技术,解决大模型训练中的算力和内存瓶颈,推动AI技术的进一步发展。
转载:【AI系统】AI轻量化与并行策略