网络安全专家指出恶意AI将开始泛滥

简介: 网络安全专家指出恶意AI将开始泛滥

本文来自 企业网D1net公众号

根据Enea的数据,76%的网络安全专业人士认为,可以绕过大多数已知网络安全措施的恶意AI将开始盛行。

研究报告显示,26%的人认为可以绕过大多数已知网络安全措施的恶意AI将在2024年发生,50%的人认为可以绕过大多数已知网络安全措施的恶意AI将在未来5年内发生。



安全专业人士对恶意AI的担忧



除了对进攻性AI超过防御性AI的担忧外,77%的专业人士对恶意AI表示严重担忧,在恶意AI中,AI行为偏离其预期的目的或目标,变得不可预测和危险。


钓鱼、社交工程和恶意软件攻击被视为AI将加强的最大威胁,但身份欺诈、数据隐私泄露和DDoS攻击也被认为可能变得更加有效。


尽管如此,受访者仍对AI对网络安全的积极影响持乐观态度。预计AI将支持威胁检测和漏洞评估,入侵检测和防御被确定为最有可能从AI中受益的领域。深度学习在检测加密流量中的恶意软件方面前景最好,48%的网络安全专业人士预计AI会产生积极影响。


成本节约成为衡量AI增强防御成功的首要KPI,而72%的受访者认为AI自动化将在缓解网络安全人才短缺方面发挥关键作用。



AI在网络安全方面的采用率仍然较低



61%的企业尚未以任何有意义的方式部署AI作为其网络安全战略的一部分,41%的企业认为AI是其企业的高或最高优先事项。充满希望的68%的受访者预计,未来两年AI倡议的预算将增加。


50%的网络安全领导者报告说,他们的企业对网络安全领域的AI/ML有“广泛的了解”,另有19%的人报告说“中等知识”,剩下的大约三分之一的人报告说没有知识到最低限度的知识。当被问及企业应该采取哪些步骤来准备应对复杂或压倒性的AI攻击时,68%的人提到加强了对员工的网络安全培训和意识。


紧随其后的是制定特定于AI的事件响应计划(65%),61%的人表示定期进行安全评估和审计。超过一半的受访者表示,加强零信任协议、多因素身份验证、下一代防火墙和威胁情报等传统安全控制是准备应对复杂AI攻击的关键。


“了解AI对网络安全的深刻影响,对于驾驭不断变化的威胁格局至关重要,”Enea资深行业分析师劳拉·威尔伯表示。“首先,要密切听取网络安全领导人及其前线团队的关切和希望。”


“这份报告证实了人们对恶意使用AI的日益担忧,但它也强调了使用AI来简化和自动化防御方面的一些引人注目的创新。已经取得了重大进展,例如减少了检测和遏制威胁的平均时间。然而,AI并不是一刀切的解决方案——企业必须采取明确和有条不紊的方法来实施AI战略,以实现最大程度的弹性。正如Enea所说——不要感到惊讶,要做好准备。”

相关文章
|
19天前
|
机器学习/深度学习 人工智能 自然语言处理
能自动查找各种漏洞,专用于网络安全的AI Agent
【7月更文挑战第3天】研究表明,大型语言模型(LLM)可应用于网络安全,自动发现和利用漏洞,包括零日漏洞。多Agent系统中,HPTSA规划任务,其他Agent执行具体工作,提升发现和应对漏洞的效率。然而,LLM的复杂性可能导致可解释性、可控性问题,且系统鲁棒性、泛化能力和安全性仍需加强。[链接: arxiv.org/abs/2406.01637]
29 1
|
18天前
|
人工智能 安全 网络安全
瑞数信息:智能防护新时代,看AI如何筑起网络防线
在AI时代,网络安全面临新挑战与机遇。瑞数信息在2024中国科技方案资讯日上探讨如何利用AI强化安全防护。随着AI技术普及,网络攻击变得更复杂,传统安全手段捉襟见肘。瑞数信息通过动态安全与AI融合,打造动态防御系统,应对自动化攻击和勒索软件。其DDR解决方案利用AI进行深度文件内容检测和智能行为识别,提升数据安全。AI已成为网络安全革命的关键,瑞数信息等企业正通过技术创新塑造未来安全格局。
瑞数信息:智能防护新时代,看AI如何筑起网络防线
|
1月前
|
机器学习/深度学习 人工智能 运维
智能之网:AI在网络安全防御中的新角色
【6月更文挑战第12天】随着人工智能技术的飞速发展,其在网络安全领域的应用也日益广泛。本文将探讨AI如何转变网络防御策略,通过实时学习与适应,提高对未知威胁的识别能力,从而构筑起一道更为坚固的安全防线。
|
1月前
|
机器学习/深度学习 人工智能 运维
阿里云DAS-您的专属AI专家,引领数据库自治驾驶
阿里云数据库自治服务(DAS)可以被誉为“您的专属AI专家”,它确实在引领数据库进入自治驾驶的时代。 DAS的核心优势在于其结合了多年大规模数据库集群运维调优的专家经验与机器学习等智能化技术。这
|
1月前
|
人工智能 安全 网络安全
白宫关于AI的行政命令对网络安全领导人意味着什么
白宫关于AI的行政命令对网络安全领导人意味着什么
|
1月前
|
人工智能 安全 网络安全
网络犯罪分子开始利用AI绕过现代电子邮件安全措施
网络犯罪分子开始利用AI绕过现代电子邮件安全措施
|
13天前
|
机器学习/深度学习 人工智能 自动驾驶
「AIGC」Agent AI智能体的未来:技术、伦理与经济的交汇点
Agent AI智能体融合机器学习与深度学习,推动社会效率与创新,但也引发伦理、法律及就业挑战。技术上,它们能自我优化、积累知识,如自动驾驶汽车通过学习改善驾驶。伦理上,需建立AI准则,确保透明度和责任归属,如医疗AI遵循道德原则。经济上,AI改变就业市场结构,创造新职业,如AI顾问,同时要求教育体系更新。未来,平衡技术进步与社会影响至关重要。
51 0
|
13天前
|
存储 机器学习/深度学习 人工智能
AI Agent技术的最新进展与改变世界的典型项目巡礼
【7月更文挑战第3天】 AI Agent技术的最新进展与改变世界的典型项目巡礼
 AI Agent技术的最新进展与改变世界的典型项目巡礼
|
3天前
|
人工智能 程序员 开发者
AI 时代程序员还“香”吗?别错过这场 OG & 跨界技术人的坦白局!
大模型当道的今天,程序员的职业选择与未来发展正在经历哪些变化和机会?大厂在招聘技术岗时会重点关注哪些能力?AI 时代下程序员的职场发展需要哪些“新活儿”傍身?7 月 11 日晚 19:00,我们请来了你熟悉的“OG 程序员”和“跨界程序员”,一起来一场“坦白局”!
|
1天前
|
人工智能 自然语言处理 API
深度融合与创新:Open API技术促进AI服务生态构建
【7月更文第21天】在数字化转型的浪潮中,人工智能(AI)已从概念探索走向实际应用,深刻改变着各行各业。Open API(开放应用程序接口)作为连接技术与业务的桥梁,正成为推动AI服务普及和生态构建的关键力量。本文将探讨Open API技术如何通过标准化、易用性和灵活性,加速AI服务的集成与创新,构建一个更加丰富多元的AI服务生态系统。
17 2

热门文章

最新文章