人工智能应用于网络安全上的局限与未来

简介:

近日,NIST研究测试了184名人类和4种最新人脸识别算法的识别准确率,并将研究结果发布在美国科学院学报。人类识别员由3组人构成:一组是87名经过训练的专业人员,一组是13名所谓的“超级识别者”(天赋出众的人);还有作为对照组的84名没经过专门训练的普通人。

f0ca9a425a04d3d458c6ed9bbc8ffa6a27443a18

不出意外,经过训练的专业组的表现明显优于未受过任何培训的对照组。但令人惊讶的是,如果单打独斗的话,无论是人类专家还是机器算法,都给不出最准确的结果。只有人类专家搭配上最好的算法,才能得到最好的表现。

NIST电子工程师 P. Jonathon Phillips 评论道:“我们的数据显示,最好的结果出自面部审查员与最好算法的组合。两名人类面部识别专家搭档确实能提升准确率,但不如一名人类专家与最佳算法的组合表现好。”

Vectra安全分析主管 Chris Morales 解释说:“NIST的研究采用了名为卷积神经网络的深度学习。因为其分析是基于像素而不是基于整幅图像,该深度学习被证明在图像识别上相当有效。说白了,它看到的不是整个森林,而是一棵一棵的树。”

NIST研究人员想要弄清的问题,是多少个人或多少台机器结合起来,才能在对比两张照片以确定是否同一人时达到最低错误率——完全正确当然最好。该研究的结果是,人与机器的组合比单个人的准确率要高,也就形成了更高的生产力。之所以会产生这样的结果,是因为人和机器各自具备的优缺点不同,协同工作时正好能扬长避短互相弥补。

研究人员发现,最好的机器与最优秀的人,其表现相差不大。另外,人类面部审查员与机器学习结合能取得最佳准确度得分 1.0 (不出错)。而想要在不用机器学习的情况下取得同样的1.0表现,则需要4名经过训练的面部审查员或3名超级识别者。

如果这些结果代表着AI在网络安全应用上的普遍现象,也就意味着我们可能正快速接近一个临界点。目前,算法并不比经过训练的专业人士好多少,但如果机器学习学习算法为人所用,它们就能提升性能并减少所需人力。

虽然AI本身不是什么新鲜事物,但过去几年其应用和功能有了长足进展。如果上述研究是在3年前做的,最好的计算机算法可能也仅仅与未经训练的普通学生表现相当。如今,顶尖算法的表现已经与经验丰富的专业人士毫无二致了。

其中蕴含的意思就是,虽然我们尚不能完全依赖机器学习算法决策,但如果算法品质持续改善,那一天终将到来。我们目前就已经达到能用AI减少人力资源依赖的程度了。最好的结果不是来自专家团队搭配机器学习,而是单个专业人士与最好算法的配合。

Tim Sadler,机器学习电子邮件安全公司Tessian共同创始人兼CEO。他表示:“新问题的最优解决方案往往是有人和机器共同找出来的。但是,随着越来越多的数据被打上标记,随着越来越多的研究人员投身AI研究,机器学习模型总体上在往更准确更自治的方向走,越来越不需要人类‘操作员’的存在了。其中一个例子就是医疗影像诊断。该领域里,如今深度学习模型已经在癌变组织早期诊断中大幅超越了放射科医生,即将变身AI万能诊断师。”

不过,Tim Sadler 并不认为人脸识别算法已经达到医疗影像诊断中AI所企及的高度。

人脸识别技术还很新,尽管机器学习正快速颠覆该领域,但很明显这项技术并不完美,比如家族特征有时候就能蒙过人脸识别技术的验证。人脸识别专家和机器学习算法的紧密合作还将持续数年,在类似的颠覆出现之前,专家还将继续修正机器的错误,并正确标记数据。

NIST的研究专门针对的是人脸识别,但基本的原则适用于生物特征识别和网络安全中的各种机器学习用例。首先,机器学习算法通过输入收集有关某情形的各种细节,然后将该信息与所存储的数据进行比较,判断这些信息代表着什么。计算机根据所收集的信息排演各种可能操作,预测哪一种是最有可能成功的。

AI在网络安全领域越来越举足轻重,尤其是在用户身份验证面临更多挑战的当下。但是,AI技术必须能够自适应复杂困难场景,比如人脸被部分遮挡,或者光线不足以保证图像精度而错误接受率又很低之类的。

英国阿尔斯特大学教授,IEEE高级会员 Kevin Curran 博士举出了苹果 Face ID 中AI应用的例子:

Face ID 通过往人脸上投射3万个红外点阵来产生3D网格面。由此产生的人脸识别信息本地存储到苹果的A11仿生芯片中的安全区域。前置红外传感器是是传感深度的关键。早期人脸识别功能,比如三星去年推出的产品,太容易被面具和2D照片骗过了。苹果宣称,其 Face ID 不会屈从于这些小伎俩。不过,有人已经宣称,用3D打印头部的方法可能骗过 Face ID。但我们并未看到该黑客手法经过测试。

该NIST研究仅仅展现了人脸识别算法的有效性,其结果不能自动应用到其他机器学习算法上。但无论如何,基本结论还是可以用到物理安全和网络安全领域的很多其他AI用例上的。

AI改进的脚步很快。虽然AI技术不能完全替代人类,但多个AI联用或人类专家搭配AI使用,能提供最大的有效性。情势已经很明显了:人与机器的正确结合具备提升性能和减少开支的潜力。


原文发布时间为:2018-06-6

本文作者:nana

本文来自云栖社区合作伙伴“安全牛”,了解相关信息可以关注“安全牛”。

相关文章
|
2月前
|
消息中间件 人工智能 安全
云原生进化论:加速构建 AI 应用
本文将和大家分享过去一年在支持企业构建 AI 应用过程的一些实践和思考。
624 42
|
2月前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
474 30
|
3月前
|
人工智能 安全 中间件
阿里云 AI 中间件重磅发布,打通 AI 应用落地“最后一公里”
9 月 26 日,2025 云栖大会 AI 中间件:AI 时代的中间件技术演进与创新实践论坛上,阿里云智能集团资深技术专家林清山发表主题演讲《未来已来:下一代 AI 中间件重磅发布,解锁 AI 应用架构新范式》,重磅发布阿里云 AI 中间件,提供面向分布式多 Agent 架构的基座,包括:AgentScope-Java(兼容 Spring AI Alibaba 生态),AI MQ(基于Apache RocketMQ 的 AI 能力升级),AI 网关 Higress,AI 注册与配置中心 Nacos,以及覆盖模型与算力的 AI 可观测体系。
983 47
|
2月前
|
设计模式 人工智能 自然语言处理
3个月圈粉百万,这个AI应用在海外火了
不知道大家还记不记得,我之前推荐过一个叫 Agnes 的 AI 应用,也是当时在 WAIC 了解到的。
434 1
|
2月前
|
消息中间件 人工智能 安全
构建企业级 AI 应用:为什么我们需要 AI 中间件?
阿里云发布AI中间件,涵盖AgentScope-Java、AI MQ、Higress、Nacos及可观测体系,全面开源核心技术,助力企业构建分布式多Agent架构,推动AI原生应用规模化落地。
324 0
构建企业级 AI 应用:为什么我们需要 AI 中间件?
|
2月前
|
存储 人工智能 NoSQL
AI大模型应用实践 八:如何通过RAG数据库实现大模型的私有化定制与优化
RAG技术通过融合外部知识库与大模型,实现知识动态更新与私有化定制,解决大模型知识固化、幻觉及数据安全难题。本文详解RAG原理、数据库选型(向量库、图库、知识图谱、混合架构)及应用场景,助力企业高效构建安全、可解释的智能系统。
|
2月前
|
人工智能 算法 Java
Java与AI驱动区块链:构建智能合约与去中心化AI应用
区块链技术和人工智能的融合正在开创去中心化智能应用的新纪元。本文深入探讨如何使用Java构建AI驱动的区块链应用,涵盖智能合约开发、去中心化AI模型训练与推理、数据隐私保护以及通证经济激励等核心主题。我们将完整展示从区块链基础集成、智能合约编写、AI模型上链到去中心化应用(DApp)开发的全流程,为构建下一代可信、透明的智能去中心化系统提供完整技术方案。
299 3
|
3月前
|
存储 人工智能 Serverless
函数计算进化之路:AI 应用运行时的状态剖析
AI应用正从“请求-响应”迈向“对话式智能体”,推动Serverless架构向“会话原生”演进。阿里云函数计算引领云上 AI 应用 Serverless 运行时技术创新,实现性能、隔离与成本平衡,开启Serverless AI新范式。
508 12
|
2月前
|
人工智能 安全 Serverless
再看 AI 网关:助力 AI 应用创新的关键基础设施
AI 网关作为云产品推出已有半年的时间,这半年的时间里,AI 网关从内核到外在都进行了大量的进化,本文将从 AI 网关的诞生、AI 网关的产品能力、AI 网关的开放生态,以及新推出的 Serverless 版,对其进行一个全面的介绍,期望对正在进行 AI 应用落地的朋友,在 AI 基础设施选型方面提供一些参考。
670 54
|
2月前
|
人工智能 缓存 运维
【智造】AI应用实战:6个agent搞定复杂指令和工具膨胀
本文介绍联调造数场景下的AI应用演进:从单Agent模式到多Agent协同的架构升级。针对复杂指令执行不准、响应慢等问题,通过意图识别、工具引擎、推理执行等多Agent分工协作,结合工程化手段提升准确性与效率,并分享了关键设计思路与实践心得。
562 20
【智造】AI应用实战:6个agent搞定复杂指令和工具膨胀

热门文章

最新文章