开发者社区> 华章计算机> 正文

你以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你

简介:
+关注继续查看

英国剑桥大学、印度理工学院和印度科学理工学院的一组研究人员发布研究论文指出,即使是用头巾、帽子和墨镜遮挡了面部,软件仍然可以将人正确识别出来。

DFI系统识别面部特征

该研究描述了卷积神经网络(Convolutional Neural Network)能被训练成所谓的伪装面部识别(Disguised Face Identification,简称DFI)系统。
英国剑桥大学工程学院的阿玛贾特·辛格周二向外媒透露,DFI系统有助于执法机构识别罪犯,这也是他们研究的主要目的。

14个点的面部“指纹”

研究人员通过数百张用墨镜、胡子和头盔伪装面部的图片训练卷积神经网络。研究人员在每张照片中识别出14个点:10个点标记记忆眉毛和眼部区域,1个点记忆鼻子,另外3个点记录嘴唇。所有点连在一起创建“星形网状结构”。研究人员分析网络中点与点之间的距离和角度了解面部结构。

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

值得注意的是,系统经过训练从模糊面部像素中识别标记,学习如何处理遮挡的面部并从中创建“指纹”。

这个面部“指纹”之后能用来扫描更大的数据库——DFI机器学习系统中的图片数据库,例如滋事者的驾照图片或面部照片,并进行匹配。换句话讲,借助这种训练模型,显示监控录像的剪裁图片,系统会将14个标记置于遮挡的面部,再将这种标记模式用于匹配数据中的面部。

这种技术仍在实践当中,目前仍是PoC。

研究人员在训练中使用了上千张不同程度遮挡的面部照片。 虽然辛格希望系统对警方有帮助,但专制政权也可能利用这种技术针对无辜平民、合法的抗议者等。

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

 

欺骗AI识别有效数据轻而易举

虽然这个计算机视觉系统的精准度对早期研究有帮助,但在实践层面的效果可能不尽人意。背景中的建筑物和物体会将精准度从85%降低到56%。

面部越模糊,识别难度就越大。同时使用帽子、头巾和墨镜等遮挡面部,精准度可能会降至43%。

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

实验与真实应用的巨大差距

更为现实的是,所有训练的图片都是对着摄像头拍摄的清晰图片,然而监控录像中的图像通常比较模糊。

另外,还有一个不容忽视的事实:类似V字仇杀队(V for Vendetta)中的全副武装总能起到愚弄的完美效果。

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

辛格还表示,由于成本昂贵,训练数据集也相当有限。当前的数据集有10种伪装打扮,主要为印度人和高加索人。辛格指出,需要扩大数据范围强化DFI系统的有效性。

到目前为止,DFI还只是一个实验系统,需要训练更多图片以便更精准地识别面部标记,这就要求更高效的算法和代码。

研究人员目前仍在继续这项研究。


本文转自d1net(转载)

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
人工智能如何增强机场的安全系统
随着人工智能驱动的自动威胁识别系统的发展,可能会预见和阻止恐怖袭击。通过提高机场的安全性,确保乘客的旅程更加顺畅。
84 0
人工智能对军事防御与安全的影响
加拿大智库国际治理创新中心(Centre for International Governance Innovation,CIGI)2022 年3 月 7 日发布了《人工智能对军事防御和安全的影响》(The Impact of Artificial Intelligence on MilitaryDefence and Security)。该报告立足于加拿大国防政策,概述了人工智能的军事用途以及促
102 0
如何管理人工智能风险和安全?
在大多数组织中,人工智能模型是“黑匣子”,只有数据科学家知道人工智能到底做什么。这可能会给组织带来重大风险。
92 0
斯坦福NLP课程 | 第19讲 - AI安全偏见与公平
NLP课程第19讲介绍了 NLP 和 AI 偏见产生的原因、衡量和应用,以及通过数据、机器学习技术、多任务学习等减少偏见、促进公平。
384 0
🏆字节跳动安全Ai挑战赛-小样本赛道方案总结
🏆字节跳动安全Ai挑战赛-小样本赛道方案总结
269 0
谷歌 AI 提出双重策略强化学习框架,帮助机器人安全学习动作技能
深度强化学习在自主解决复杂、高维问题方面的前景,引起了机器人、游戏和自动驾驶汽车等领域的极大兴趣。但是,要想有效地进行强化学习策略的训练,需要对大量的机器人状态和行为进行研究。这其中存在一定的安全风险,比如,在训练一个有腿机器人时,由于这类机器人自身不稳定,机器人在学习时很容易发生跌倒,这可能会造成机器人的损害。
101 0
AI药物发现实践与隐私安全计算
AI药物发现实践与隐私安全计算
42 0
人工智能如何帮忙确保供应链的安全?
技术影着响社会的方方面面,供应链也不例外。人工智能提供了一种高度创新的技术形态,而这种形态使供应链的管理人员和工作场所发生了巨变。
116 0
人工智能推动网络威胁发展:安全是下一个重大挑战
在人工智能(AI)和安全性方面,很多企业的信息安全团队和IT团队对其表现形式提出了质疑。毕竟,自从20世纪80年代后期以来,人们一直听说人工智能即将到来。鉴于大多数供应商已经将人工智能和机器学习(ML)术语引入他们的市场营销活动中,看起来更像是在销售未来,而不是现在。
78 0
国家网络安全周开幕,百度安全“AI未来城”成大会亮点
国家网络安全周开幕,百度安全“AI未来城”成大会亮点
60 0
+关注
华章计算机
文章
问答
视频
文章排行榜
最热
最新
相关电子书
更多
视觉AI能力的开放现状及ModelScope实战
立即下载
通用多模态AI构建
立即下载
阿里云AI产品必知必会系列电子书
立即下载