AI工具使公司面临数据泄露的风险

简介: AI工具使公司面临数据泄露的风险

本文来自 企业网D1net公众号

由企业内部人员而造成的数据泄露和丢失继续对安全构成越来越大的威胁,AI和GenAI等新兴工具的滥用加剧了这个问题,这表明企业需要迅速采取行动。


自2021年以来,由企业内部人员造成的数据泄露、丢失和盗窃事件平均每月增加28%,85%的受访者预计这一趋势将在未来12个月持续。



数据保护不足


虽然99%的企业都有数据保护解决方案,但78%的网络安全领导者承认,他们的敏感数据仍然被泄露。由于当今的风险越来越多地由AI和GenAI、员工的工作方式以及云应用的激增推动,受访者表示,他们需要更多地了解发送到存储库的源代码(88%)、发送到个人云帐户的文件(87%)和CRM系统数据下载(90%)。

今天,数据具有很高的便携性。AI和云技术正在引发新的商业尝试,支持员工连接、创建和协作,但这也使源代码等关键企业数据更容易泄露。

今年,这项研究突显了AI带来的新挑战,因为数据集正被推向企业之外,以培训大语言模型。我们还看到,除了金融信息和研究数据外,源代码现在被认为是最需要保护的数据,这是一个重要的发现,因为大多数数据保护工具无法发现最常见的源代码外泄。



企业关注AI对敏感数据的影响


79%的受访者认为他们的网络安全团队缺乏熟练员工,导致网络安全领导者转向AI(83%)和GenAI(92%)技术来填补人才缺口,但这并不能完全替代员工,报告还警告说,这些工具可能造成数据丢失的风险。

73%的网络安全领导者表示,数据法规不明确,68%的人不完全相信他们的企业遵守了新的数据保护法,98%的受访者认为他们的数据安全培训需要改进,44%的受访者认为需要彻底改革。

89%的受访者同意,他们企业的敏感数据越来越容易受到新的AI技术的影响,87%的人担心他们的员工可能会无意中将敏感数据输入到GenAI中,从而将其暴露给竞争对手,87%的人担心他们的员工没有遵守他们的GenAI政策。

风险可能因员工年龄和角色而异,企业更担心Z世代和千禧一代成为由数据安全漏洞而造成的网络钓鱼攻击的受害者(61%),在网上过度分享公司信息(60%),将公司文件/数据发送到个人账户/设备(62%),以及将敏感数据输入GenAI工具(58%)。

受访者还认为,高级管理层(81%)和董事会成员(71%)对他们企业的数据安全构成了最大的风险,这可能是因为他们可以广泛访问最敏感的数据。



内部数据丢失耗尽了时间和金钱


企业内部人士驱动的数据泄露、丢失和盗窃事件可能会产生巨大的财务影响,网络安全领导者估计,一次事件平均将给他们的企业造成1500万美元的损失,受访者平均每天花3个小时调查内部驱动的数据事件。

72%的网络安全负责人担心,他们可能会因为一次未解决的内部入侵而丢掉工作,为了有效应对,企业认为数据保护解决方案应提供快速和轻松的调查(42%),对文件内容和元数据的可见性(39%),并应能够与其他技术解决方案集成(38%)。

需要更高的可见性,这样企业才能看到数据被复制到GenAI工具中,以便在为时已晚之前识别和补救风险。

相关文章
|
6月前
|
消息中间件 人工智能 Kafka
AI 时代的数据通道:云消息队列 Kafka 的演进与实践
云消息队列 Kafka 版通过在架构创新、性能优化与生态融合等方面的突破性进展,为企业构建实时数据驱动的应用提供了坚实支撑,持续赋能客户业务创新。
658 62
|
6月前
|
人工智能 搜索推荐 算法
用AI提示词搞定基金定投:技术人的理财工具实践
本文将AI提示词工程应用于基金定投,为技术人打造一套系统化、可执行的理财方案。通过结构化指令,AI可生成个性化定投策略,覆盖目标设定、资产配置、风险控制与动态调整,帮助用户降低决策门槛,规避情绪干扰,实现科学理财。
2229 13
|
6月前
|
人工智能 运维 Java
Spring AI Alibaba Admin 开源!以数据为中心的 Agent 开发平台
Spring AI Alibaba Admin 正式发布!一站式实现 Prompt 管理、动态热更新、评测集构建、自动化评估与全链路可观测,助力企业高效构建可信赖的 AI Agent 应用。开源共建,现已上线!
7289 97
|
6月前
|
机器学习/深度学习 人工智能 算法
AI可以做电商主图了:技术原理,AI电商图生成工具对比及技术解析
双十一临近,电商主图需求激增。AI技术凭借多图融合、扩散模型等,实现高效智能设计,30秒生成高质量主图,远超传统PS效率。支持风格迁移、背景替换、文案生成,助力商家快速打造吸睛商品图,提升转化率。
2044 0
|
6月前
|
人工智能 搜索推荐 数据可视化
当AI学会“使用工具”:智能体(Agent)如何重塑人机交互
当AI学会“使用工具”:智能体(Agent)如何重塑人机交互
717 115
|
6月前
|
人工智能 安全 搜索推荐
AI的下一个前沿:从静态工具到动态代理
AI的下一个前沿:从静态工具到动态代理
357 113
|
6月前
|
人工智能 自然语言处理 安全
从工具到伙伴:AI代理(Agent)是下一场革命
从工具到伙伴:AI代理(Agent)是下一场革命
776 117
|
6月前
|
人工智能 缓存 运维
【智造】AI应用实战:6个agent搞定复杂指令和工具膨胀
本文介绍联调造数场景下的AI应用演进:从单Agent模式到多Agent协同的架构升级。针对复杂指令执行不准、响应慢等问题,通过意图识别、工具引擎、推理执行等多Agent分工协作,结合工程化手段提升准确性与效率,并分享了关键设计思路与实践心得。
1064 20
【智造】AI应用实战:6个agent搞定复杂指令和工具膨胀
|
6月前
|
机器学习/深度学习 人工智能 自然语言处理
双 11 电商效率突围:10 款 AI 工具的技术落地与实践指南
2025年双11促销长达38天,电商迎来AI重构关键期。本文剖析10款主流AI工具技术原理,涵盖设计、文案、投放、客服等场景,揭示计算机视觉、自然语言处理等技术如何驱动电商智能化升级,助力企业高效应对大促挑战。
975 1
|
6月前
|
机器学习/深度学习 人工智能 监控
拔俗AI智能营运分析助手软件系统:企业决策的"数据军师",让经营从"拍脑袋"变"精准导航"
AI智能营运分析助手打破数据孤岛,实时整合ERP、CRM等系统数据,自动生成报表、智能预警与可视化决策建议,助力企业从“经验驱动”迈向“数据驱动”,提升决策效率,降低运营成本,精准把握市场先机。(238字)
214 0
下一篇
开通oss服务