你以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你

简介:

英国剑桥大学、印度理工学院和印度科学理工学院的一组研究人员发布研究论文指出,即使是用头巾、帽子和墨镜遮挡了面部,软件仍然可以将人正确识别出来。

DFI系统识别面部特征

该研究描述了卷积神经网络(Convolutional Neural Network)能被训练成所谓的伪装面部识别(Disguised Face Identification,简称DFI)系统。
英国剑桥大学工程学院的阿玛贾特·辛格周二向外媒透露,DFI系统有助于执法机构识别罪犯,这也是他们研究的主要目的。

14个点的面部“指纹”

研究人员通过数百张用墨镜、胡子和头盔伪装面部的图片训练卷积神经网络。研究人员在每张照片中识别出14个点:10个点标记记忆眉毛和眼部区域,1个点记忆鼻子,另外3个点记录嘴唇。所有点连在一起创建“星形网状结构”。研究人员分析网络中点与点之间的距离和角度了解面部结构。

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

值得注意的是,系统经过训练从模糊面部像素中识别标记,学习如何处理遮挡的面部并从中创建“指纹”。

这个面部“指纹”之后能用来扫描更大的数据库——DFI机器学习系统中的图片数据库,例如滋事者的驾照图片或面部照片,并进行匹配。换句话讲,借助这种训练模型,显示监控录像的剪裁图片,系统会将14个标记置于遮挡的面部,再将这种标记模式用于匹配数据中的面部。

这种技术仍在实践当中,目前仍是PoC。

研究人员在训练中使用了上千张不同程度遮挡的面部照片。 虽然辛格希望系统对警方有帮助,但专制政权也可能利用这种技术针对无辜平民、合法的抗议者等。

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

 

欺骗AI识别有效数据轻而易举

虽然这个计算机视觉系统的精准度对早期研究有帮助,但在实践层面的效果可能不尽人意。背景中的建筑物和物体会将精准度从85%降低到56%。

面部越模糊,识别难度就越大。同时使用帽子、头巾和墨镜等遮挡面部,精准度可能会降至43%。

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

实验与真实应用的巨大差距

更为现实的是,所有训练的图片都是对着摄像头拍摄的清晰图片,然而监控录像中的图像通常比较模糊。

另外,还有一个不容忽视的事实:类似V字仇杀队(V for Vendetta)中的全副武装总能起到愚弄的完美效果。

别以为带着头巾、墨镜就安全了?AI系统能认出乔装打扮的你-E安全

辛格还表示,由于成本昂贵,训练数据集也相当有限。当前的数据集有10种伪装打扮,主要为印度人和高加索人。辛格指出,需要扩大数据范围强化DFI系统的有效性。

到目前为止,DFI还只是一个实验系统,需要训练更多图片以便更精准地识别面部标记,这就要求更高效的算法和代码。

研究人员目前仍在继续这项研究。


本文转自d1net(转载)

相关文章
|
30天前
|
人工智能 安全 API
Higress MCP Server 安全再升级:API 认证为 AI 连接保驾护航
Higress MCP Server 新增了 API 认证功能,为 AI 连接提供安全保障。主要更新包括:1) 客户端到 MCP Server 的认证,支持 Key Auth、JWT Auth 和 OAuth2;2) MCP Server 到后端 API 的认证,增强第二阶段的安全性。新增功能如可重用认证方案、工具特定后端认证、透明凭证透传及灵活凭证管理,确保安全集成更多后端服务。通过 openapi-to-mcp 工具简化配置,减少手动工作量。企业版提供更高可用性保障,详情参见文档链接。
368 42
|
20天前
|
云安全 人工智能 安全
大模型+安全,阿里云发布AI云盾系列产品!
阿里云正式发布AI云盾(Cloud Shield for AI)系列安全产品,包括AI安全护栏、升级云安全中心、WAAP和云防火墙。该系列提供模型输入输出安全、AI-BOM、AI-SPM等能力,构建三层模型安全防御体系,涵盖AI基础设施、大模型及应用安全。其中,AI安全护栏保障生成式AI合规性,实时检测威胁并维护模型健康,支持多模态内容交叉检测的All In One API调用模式。此外,AI-BOM与AI-SPM助力客户持续监控AI资产及安全状态。
137 3
大模型+安全,阿里云发布AI云盾系列产品!
|
27天前
|
云安全 人工智能 安全
AI 云盾(Cloud Shield for AI)重磅发布,打造安全新范式
提供大模型应用端到端的安全解决方案
1414 48
|
15天前
|
人工智能 安全 Nacos
MSE 铂金版:全面拥抱 AI,SLA 99.99%,零信任安全
微服务引擎注册配置中心铂金版正式发布,支持Nacos 3.0 MCP服务动态注册与调优,提供比专业版更高的稳定性与安全能力,SLA达99.99%,服务推送性能提升300%。针对关键业务,铂金版通过独享核心资源实现更高规格配额,满足大规模需求。此外,新增MCP动态注册、HTTP服务转换、实时更新调优等功能,并强化数据源管理与安全能力,助力企业应对复杂业务挑战。
|
25天前
|
存储 人工智能 自然语言处理
构建智能AI记忆系统:多智能体系统记忆机制的设计与技术实现
本文探讨了多智能体系统中记忆机制的设计与实现,提出构建精细化记忆体系以模拟人类认知过程。文章分析了上下文窗口限制的技术挑战,并介绍了四种记忆类型:即时工作记忆、情节记忆、程序性记忆和语义知识系统。通过基于文件的工作上下文记忆、模型上下文协议的数据库集成以及RAG系统等技术方案,满足不同记忆需求。此外,高级技术如动态示例选择、记忆蒸馏和冲突解决机制进一步提升系统智能化水平。总结指出,这些技术推动智能体向更接近人类认知的复杂记忆处理机制发展,为人工智能开辟新路径。
110 5
构建智能AI记忆系统:多智能体系统记忆机制的设计与技术实现
|
12天前
|
人工智能 安全 测试技术
信条:阿里云AI攻防安全启示录
解读AI时代下的安全攻防新态势
1118 11
|
29天前
|
机器学习/深度学习 人工智能 Kubernetes
开源AI驱动的商业综合体保洁管理——智能视频分析系统的技术解析
智能保洁管理系统通过计算机视觉与深度学习技术,解决传统保洁模式中监管难、效率低的问题。系统涵盖垃圾滞留监测、地面清洁度评估、设施表面检测等功能,实现高精度(96%以上)、实时响应(<200毫秒)。基于开源TensorFlow与Kubernetes架构,支持灵活部署与定制开发,适用于商场、机场等场景,提升管理效率40%以上。未来可扩展至气味监测等领域,推动保洁管理智能化升级。
111 26
|
23天前
|
机器学习/深度学习 人工智能 运维
AI加持的系统性能优化:别让你的服务器“累趴下”
AI加持的系统性能优化:别让你的服务器“累趴下”
77 12
|
1月前
|
数据采集 人工智能 搜索推荐
从AI助手到个性化数字分身:WeClone & Second Me打造本地化、私有化的个性化AI代理系统
从AI助手到个性化数字分身:WeClone & Second Me打造本地化、私有化的个性化AI代理系统
145 23
|
1月前
|
机器学习/深度学习 人工智能 运维
运维不靠玄学!用AI预测系统负载,谁用谁说香!
运维不靠玄学!用AI预测系统负载,谁用谁说香!
102 18
下一篇
oss创建bucket