全球首例!移动材料上实现动态对抗,这件T恤让你在AI眼皮下隐身-阿里云开发者社区

开发者社区> -技术小助手-> 正文

全球首例!移动材料上实现动态对抗,这件T恤让你在AI眼皮下隐身

简介: 全球首例!移动材料上实现动态对抗,这件T恤让你在AI眼皮下隐身
+关注继续查看

当迎面走来一位穿着白T恤的男性和一位穿着黑T恤的女性时,如果我们从AI摄像头中观察,会惊讶地发现画面中只有女性的身影。

别担心,这并不是内部程序的性别歧视,问题出在衣服上。

当仔细观察这位男性穿的白T,第一印象是怪丑怪丑的,再看看,T恤上印有千变万化的色块,不过和普通T恤也没什么大的差别。

这就是你轻敌的地方了。

别看这件T恤设计得不怎么入眼,来头却不小,这是由IBM、MIT和东北大学的研究人员共同设计的,当你穿上这件T恤的时候,在AI摄像头看来,你就能神奇地和背景融为一体,就这么消失在了摄像头中。

破案了!原来《猫和老鼠》中,Jerry的那瓶隐身墨水就是被他们“偷”走的。

由于新冠疫情,全球各地都加大了AI摄像头的部署力度,人们的日常生活处于无时无刻被监视和追踪的状态,在这样的大趋势下,如何更好地保护自己的面部信息,这件T恤就是答案,毕竟,当你整个身体都“消失”在摄像头中,又何来面部信息一说呢?

东北大学电气与计算机工程助理教授Shelley Lin表示:“深层神经网络非常强大,但也十分脆弱。当穿上T恤,深层神经网络很可能无法在图像中识别你。”

说了这么多,来看看这件T恤的“卖家秀”:

emmm文摘菌想说,道理我都懂,但是能把T恤设计得稍微再好看一些吗?

首个实现动态对抗攻击的竟然是这件T恤?!

说到对抗模型的建立,很多人可能对此不屑一顾,这不很早就有了吗?

那我们就先来看看目前的部分战绩:
2016年,美国卡内基梅隆大学和北卡罗来纳州教堂山分校的研究人员发明了一种眼镜,该眼镜能“迷惑”住面部识别技术,从而将佩戴者分类错误;
2017年10月,加利福尼亚大学伯克利分校计算机科学博士生Dan Hendrycks就“成功”地让AI系统将“停止”路标识别为了“限速45”路标。

的确,这些对抗模型效果很好,近两年的发展似乎也还挺顺利。

但是,文摘菌要提醒的是,大家可能还混淆了一个概念,上述两例都是在静态材料中生成的对抗性攻击,如果想要在视频上进行动态对抗,困难指数就得加倍。比如,在设计这件T恤的时候,研究人员就必须考虑,T恤在穿戴者移动时会起皱和折痕,否则就会直接影响到对抗效果。

卡利亚里大学助理教授、第一个对抗性示例的创建者Battista Biggio说:“对于物理攻击,真正的挑战是在整个视频持续时间内保持未被发现的状态。”Biggio开发的首个对抗性系统成功地欺骗了垃圾邮件检测程序,“当检测在每一帧中进行时,要始终保持未被检测到要困难得多”。

为了实现动态对抗,研究人员使用了Lin所说的“变压器(transformer)”,这是一种测量T恤运动方式随后将其映射到设计中的方法。

通过专门研究两个通常用于训练目的的对象识别神经网络YOLOv2和Faster R-CNN,团队发现,增加像素噪声会使AI混淆身体区域,从而使穿上T恤的人在AI摄像头下“隐身”。

随后,研究人员记录了一个穿着棋盘格图案T恤的人走路,跟踪棋盘上每个方块的角的变化,从而准确地绘制出了人移动时T恤的起皱规律。当整个模式建立起来之后,针对YOLOv2的对抗能力从27%提高到了63%,针对Faster R-CNN的对抗能力从11%提高到52%。

基于此,全球首个在移动材料上实现动态对抗的设计就创建成功了!

人们能借此重获隐私主权吗?

这种对抗攻击的原理,其实和深度神经网络的训练是同宗同源的。

我们都知道,深度神经网络通常用于对图像、声音或者其他输入进行识别和分类,要实现精确识别,研究人员就要用上百万的示例训练这些算法,直到系统最终能辨别个人的相貌和声音等。

同时,反过来说,既然我们知道了如何训练特定网络,那我们也就知道了如何反向训练特性网络,以生成相应的对抗式识别模型,比如让系统将熊猫识别为长臂猿。

当我们深入到识别过程中,神经网络会在需要识别的人物或事物周围绘制一个“边界框”,随后再为该对象分配标签。也就是说,只要能找到神经网络的边界点——在AI看来某个物体是否为该物体的阈值,就足以创建可混淆AI分类和标签系统的设计。

之前,Lin和同事在研究一种用深层神经网络训练的物体检测器,利用这种检测器能快速并准确地标记视频中的“人”、“马”或“伞”等,但他们想借此发现在深度神经网络中存在的漏洞,“未来,希望我们能够解决这些问题,从而不会欺骗深度学习系统”。

这件T恤就是成果之一。

对于这件能保护人们信息安全的T恤,文摘菌已经疯狂想要入手了。但Lin对此表示,在现实中不太可能看到这些T恤,她解释道:“我们仍然很难使它在现实世界中正常使用,前提条件是,我们必须知道检测算法的所有细节。因此这件T恤并不完美,这里那里可能都存在问题。”

在总结AI屡屡失利的原因时,谷歌AI工程师François Chollet表示,“深度神经网络十分脆弱,这无法从根本上解决”。

不过,克服这些缺陷的方法也还是存在的,研究人员需要额外增强模式匹配,例如,让AI自己探索世界,编写自己的代码并保留记忆。一些专家认为,这类系统将成为未来十年AI研究不可忽视的一部分。

这件T恤的开发也标志着AI识别面临着越来越强的危机感,人们或许能在信息隐私方面逐渐重新获得主权。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
使用NAT网关轻松为单台云服务器设置多个公网IP
在应用中,有时会遇到用户询问如何使单台云服务器具备多个公网IP的问题。 具体如何操作呢,有了NAT网关这个也不是难题。
22515 0
怎么设置阿里云服务器安全组?阿里云安全组规则详细解说
阿里云服务器安全组设置规则分享,阿里云服务器安全组如何放行端口设置教程
6329 0
阿里云服务器端口号设置
阿里云服务器初级使用者可能面临的问题之一. 使用tomcat或者其他服务器软件设置端口号后,比如 一些不是默认的, mysql的 3306, mssql的1433,有时候打不开网页, 原因是没有在ecs安全组去设置这个端口号. 解决: 点击ecs下网络和安全下的安全组 在弹出的安全组中,如果没有就新建安全组,然后点击配置规则 最后如上图点击添加...或快速创建.   have fun!  将编程看作是一门艺术,而不单单是个技术。
3951 0
使用OpenApi弹性释放和设置云服务器ECS释放
云服务器ECS的一个重要特性就是按需创建资源。您可以在业务高峰期按需弹性的自定义规则进行资源创建,在完成业务计算的时候释放资源。本篇将提供几个Tips帮助您更加容易和自动化的完成云服务器的释放和弹性设置。
7576 0
windows server 2008阿里云ECS服务器安全设置
最近我们Sinesafe安全公司在为客户使用阿里云ecs服务器做安全的过程中,发现服务器基础安全性都没有做。为了为站长们提供更加有效的安全基础解决方案,我们Sinesafe将对阿里云服务器win2008 系统进行基础安全部署实战过程! 比较重要的几部分 1.
4962 0
腾讯云服务器 设置ngxin + fastdfs +tomcat 开机自启动
在tomcat中新建一个可以启动的 .sh 脚本文件 /usr/local/tomcat7/bin/ export JAVA_HOME=/usr/local/java/jdk7 export PATH=$JAVA_HOME/bin/:$PATH export CLASSPATH=.
1997 0
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,云吞铺子总结大概有三种登录方式: 登录到ECS云服务器控制台 在ECS云服务器控制台用户可以更改密码、更换系统盘、创建快照、配置安全组等操作如何登录ECS云服务器控制台? 1、先登录到阿里云ECS服务器控制台 2、点击顶部的“控制台” 3、通过左侧栏,切换到“云服务器ECS”即可,如下图所示 通过ECS控制台的远程连接来登录到云服务器 阿里云ECS云服务器自带远程连接功能,使用该功能可以登录到云服务器,简单且方便,如下图:点击“远程连接”,第一次连接会自动生成6位数字密码,输入密码即可登录到云服务器上。
16265 0
1396
文章
0
问答
来源圈子
更多
+ 订阅
文章排行榜
最热
最新
相关电子书
更多
文娱运维技术
立即下载
《SaaS模式云原生数据仓库应用场景实践》
立即下载
《看见新力量:二》电子书
立即下载