AI工具使公司面临数据泄露的风险

简介: AI工具使公司面临数据泄露的风险

本文来自 企业网D1net公众号

由企业内部人员而造成的数据泄露和丢失继续对安全构成越来越大的威胁,AI和GenAI等新兴工具的滥用加剧了这个问题,这表明企业需要迅速采取行动。


自2021年以来,由企业内部人员造成的数据泄露、丢失和盗窃事件平均每月增加28%,85%的受访者预计这一趋势将在未来12个月持续。



数据保护不足


虽然99%的企业都有数据保护解决方案,但78%的网络安全领导者承认,他们的敏感数据仍然被泄露。由于当今的风险越来越多地由AI和GenAI、员工的工作方式以及云应用的激增推动,受访者表示,他们需要更多地了解发送到存储库的源代码(88%)、发送到个人云帐户的文件(87%)和CRM系统数据下载(90%)。

今天,数据具有很高的便携性。AI和云技术正在引发新的商业尝试,支持员工连接、创建和协作,但这也使源代码等关键企业数据更容易泄露。

今年,这项研究突显了AI带来的新挑战,因为数据集正被推向企业之外,以培训大语言模型。我们还看到,除了金融信息和研究数据外,源代码现在被认为是最需要保护的数据,这是一个重要的发现,因为大多数数据保护工具无法发现最常见的源代码外泄。



企业关注AI对敏感数据的影响


79%的受访者认为他们的网络安全团队缺乏熟练员工,导致网络安全领导者转向AI(83%)和GenAI(92%)技术来填补人才缺口,但这并不能完全替代员工,报告还警告说,这些工具可能造成数据丢失的风险。

73%的网络安全领导者表示,数据法规不明确,68%的人不完全相信他们的企业遵守了新的数据保护法,98%的受访者认为他们的数据安全培训需要改进,44%的受访者认为需要彻底改革。

89%的受访者同意,他们企业的敏感数据越来越容易受到新的AI技术的影响,87%的人担心他们的员工可能会无意中将敏感数据输入到GenAI中,从而将其暴露给竞争对手,87%的人担心他们的员工没有遵守他们的GenAI政策。

风险可能因员工年龄和角色而异,企业更担心Z世代和千禧一代成为由数据安全漏洞而造成的网络钓鱼攻击的受害者(61%),在网上过度分享公司信息(60%),将公司文件/数据发送到个人账户/设备(62%),以及将敏感数据输入GenAI工具(58%)。

受访者还认为,高级管理层(81%)和董事会成员(71%)对他们企业的数据安全构成了最大的风险,这可能是因为他们可以广泛访问最敏感的数据。



内部数据丢失耗尽了时间和金钱


企业内部人士驱动的数据泄露、丢失和盗窃事件可能会产生巨大的财务影响,网络安全领导者估计,一次事件平均将给他们的企业造成1500万美元的损失,受访者平均每天花3个小时调查内部驱动的数据事件。

72%的网络安全负责人担心,他们可能会因为一次未解决的内部入侵而丢掉工作,为了有效应对,企业认为数据保护解决方案应提供快速和轻松的调查(42%),对文件内容和元数据的可见性(39%),并应能够与其他技术解决方案集成(38%)。

需要更高的可见性,这样企业才能看到数据被复制到GenAI工具中,以便在为时已晚之前识别和补救风险。

相关文章
|
9天前
|
人工智能 自然语言处理 IDE
6 款 AI 工具,助力写出更优质代码
6 款 AI 工具,助力写出更优质代码
116 3
6 款 AI 工具,助力写出更优质代码
|
5天前
|
人工智能 Linux iOS开发
exo:22.1K Star!一个能让任何人利用日常设备构建AI集群的强大工具,组成一个虚拟GPU在多台设备上并行运行模型
exo 是一款由 exo labs 维护的开源项目,能够让你利用家中的日常设备(如 iPhone、iPad、Android、Mac 和 Linux)构建强大的 AI 集群,支持多种大模型和分布式推理。
217 100
|
2天前
|
人工智能 自然语言处理 数据可视化
Data Formulator:微软开源的数据可视化 AI 工具,通过自然语言交互快速创建复杂的数据图表
Data Formulator 是微软研究院推出的开源 AI 数据可视化工具,结合图形化界面和自然语言输入,帮助用户快速创建复杂的可视化图表。
125 9
Data Formulator:微软开源的数据可视化 AI 工具,通过自然语言交互快速创建复杂的数据图表
|
9天前
|
人工智能 自然语言处理 API
OpenDeepResearcher:开源 AI 研究工具,自动完成搜索、评估、提取和生成报告
OpenDeepResearcher 是一款开源 AI 研究工具,支持异步处理、去重功能和 LLM 驱动的决策,帮助用户高效完成复杂的信息查询和分析任务。
142 18
OpenDeepResearcher:开源 AI 研究工具,自动完成搜索、评估、提取和生成报告
|
4天前
|
人工智能 Linux 开发工具
Kiln AI:零代码实现微调模型!自动生成合成数据与微调模型的开源平台
Kiln AI 是一款开源的 AI 开发工具,支持零代码微调多种语言模型,生成合成数据,团队协作开发,自动部署。帮助用户快速构建高质量的 AI 模型。
305 7
Kiln AI:零代码实现微调模型!自动生成合成数据与微调模型的开源平台
|
29天前
|
数据采集 SQL 人工智能
瓴羊Dataphin:AI驱动的数据治理——千里之行,始于标准 |【瓴羊数据荟】数据MeetUp第三期
数据标准是数据治理的核心抓手,通过梳理数据标准可以有效提升数据质量。瓴羊Dataphin平台利用AI技术简化数据治理流程,实现自动化的数据标准建立、质量规则构建和特征识别,助力企业在大模型时代高效治理数据,推动数据真正为业务服务。
332 28
瓴羊Dataphin:AI驱动的数据治理——千里之行,始于标准 |【瓴羊数据荟】数据MeetUp第三期
|
20天前
|
人工智能 自然语言处理 语音技术
FilmAgent:多智能体共同协作制作电影,哈工大联合清华推出 AI 驱动的自动化电影制作工具
FilmAgent 是由哈工大与清华联合推出的AI电影自动化制作工具,通过多智能体协作实现从剧本生成到虚拟拍摄的全流程自动化。
203 10
FilmAgent:多智能体共同协作制作电影,哈工大联合清华推出 AI 驱动的自动化电影制作工具
|
4天前
|
存储 人工智能 NoSQL
Airweave:快速集成应用数据打造AI知识库的开源平台,支持多源整合和自动同步数据
Airweave 是一个开源工具,能够将应用程序的数据同步到图数据库和向量数据库中,实现智能代理检索。它支持无代码集成、多租户支持和自动同步等功能。
48 14
|
7天前
|
人工智能 安全 开发工具
Repomix:8.1K Star!轻松将整个代码库打包为AI友好格式的开源工具,使代码库更易于AI理解
Repomix 是一款强大的工具,能够将整个代码库打包成AI友好的单个文件,支持多种输出格式和安全检查。
59 9
|
26天前
|
机器学习/深度学习 人工智能 文字识别
Zerox:AI驱动的万能OCR工具,精准识别复杂布局并输出Markdown格式,支持PDF、DOCX、图片等多种文件格式
Zerox 是一款开源的本地化高精度OCR工具,基于GPT-4o-mini模型,支持PDF、DOCX、图片等多种格式文件,能够零样本识别复杂布局文档,输出Markdown格式结果。
100 4
Zerox:AI驱动的万能OCR工具,精准识别复杂布局并输出Markdown格式,支持PDF、DOCX、图片等多种文件格式

热门文章

最新文章