警觉!AI工具可能正在泄露您的数据...

本文涉及的产品
Serverless 应用引擎 SAE,800核*时 1600GiB*时
容器镜像服务 ACR,镜像仓库100个 不限时长
容器服务 Serverless 版 ACK Serverless,317元额度 多规格
简介: 不论是企业自身使用大模型训练自己的AI服务,还是内部员工使用AI工具提高生产力,当下都已逐渐演变为常态。近期,国内某互联网大厂也被传出正通过API将ChatGPT集成至内部的应用程序和服务中用以打造自己的大模型....然而,潮流的背后,潜在的安全隐患是否能够被及时识别呢?...

AI在国内企业渗透率如何?”调研中Gartner向界面新闻记者提供了部分参考,截至今年4月底企业调研报告数据显示,有6%的企业已经部署了生成式AI工具,50%的企业正在试点使用或计划在半年内部署使用相关工具,这一比例高于中东与南亚企业。


不论是企业自身使用大模型训练自己的AI服务,还是内部员工使用AI工具提高生产力,当下都已逐渐演变为常态。近期,国内某互联网大厂也被传出正通过API将ChatGPT集成至内部的应用程序和服务中用以打造自己的大模型....然而,潮流的背后,潜在的安全隐患是否能够被及时识别呢?...


随着类ChatGPT人工智能技术的快速发展,ChatGPT等AI工具爆火,众多AI衍生产品的不断涌现加速渗透各行各业,逐渐演变为当今社会中不可或缺的一部分。与此同时,大型AI模型在文案处理、搜索引擎、图像识别、网站以及代码辅助编写插件等领域取得显著进展。


尽管这些AI工具在提高办公效率方面发挥了关键作用,却也带来一系列潜在风险。企业员工在使用AI工具时可能无意中将企业敏感数据粘贴或上传至AI工具中,而AI开发商在未经用户同意和授权的情况下,可能存在非法收集数据、违法售卖数据的风险,从而导致公司商业机密泄露的危险。


有公开信息报道ChatGPT曾发生过泄密事件:“三星公司在使用ChatGPT不到20天时,就发现自己的半导体设备测量资料、产品良率等数据被盗取,并存入了美国的ChatGPT数据库中,原因是员工直接将企业机密信息以提问的方式输入到ChatGPT中,从而导致相关内容进入学习数据库。”AI服务默认保存信息的做法使得使用AI工具存在数据泄露的风险,可能会给公司带来难以估量的损失。


此,亿格云团队经过调研后发现,在实际使用AI工具过程中,企业往往面临着两个核心挑战:

目前公司内有多少员工正在使用可能造成数据泄露的AI工具?

是否有敏感数据可能正在或已经泄露到多少AI工具中?


出于对企业真实痛点的洞察,亿格云团队发布扩展数据防泄漏(XDLP)新功能,借助亿格云枢XDLP功能能对市面上主流的AI工具进行检测与审计,充分满足多种场景:


数据泄露风险管控:

实时检测并阻止AI工具使用过程中泄露敏感数据行为


合规审计

对使用AI工具处理数据行为进行完整检测和审计,以符合企业合规要求




功能亮点解析


全面了解AI工具数据安全风险态势。亿格云枢内置海内外常见3000+网站域名,分为AI办公、AI对话、AI编程三大类,如常见的ChatGPT、通义千问、文心一言、百川大模型、Gemini、Copilot等AI工具。高效帮助企业管理者梳理敏感数据风险态势。



减少数据泄露风险。亿格云枢可精准识别向AI工具网站的文本粘贴、文件上传等动作,自动检测其敏感数据内容并生成告警事件,自动发现已安装代码工具IA插件的人员与终端,帮助企业管理者快速发现可能存在数据泄露的风险人员和风险事件。



(模拟用户粘贴上传敏感信息至AI工具)


(该高危风险行为产生告警


满足数据安全保护法律法规与合规要求。确保在数据处理中符合相关法律法规,避免因违规造成更多损失。


除了能多维度对AI工具使用的识别与检测分析之外,亿格云枢对企业数据安全建设还大有裨益,包括优化企业安全策略、提高内部安全意识、减少数据泄露事件发生、降低数据泄露事件影响等。


在企业发展经营的世界里,数据安全绝无小事。负责任的对AI工具投入管理亦迫在眉睫。亿格云也将持续致力于解决企业数据安全管理中的真实痛点,打造“企业真正受用的安全产品”。实现All in One的全效安全!

相关文章
|
15天前
|
人工智能 IDE 测试技术
一文教会你如何用好通义灵码,让这款 AI 编码工具帮你做更多工作,更高效
如何用好通义灵码?欢迎收藏最佳使用指南。本文提供通义灵码使用指南,涵盖快捷键、配置调整、跨文件索引及上下文管理等内容,帮助用户更高效地使用通义灵码。
|
9天前
|
机器学习/深度学习 人工智能 编解码
AI图像放大工具,图片放大无所不能
AI图像放大工具,如ESRGAN,对于提高由Stable Diffusion生成的AI图像质量至关重要。它们被广泛使用,以至于许多Stable Diffusion的图形用户界面(GUI)都内置了支持。
AI图像放大工具,图片放大无所不能
|
21天前
|
存储 消息中间件 人工智能
AI大模型独角兽 MiniMax 基于阿里云数据库 SelectDB 版内核 Apache Doris 升级日志系统,PB 数据秒级查询响应
早期 MiniMax 基于 Grafana Loki 构建了日志系统,在资源消耗、写入性能及系统稳定性上都面临巨大的挑战。为此 MiniMax 开始寻找全新的日志系统方案,并基于阿里云数据库 SelectDB 版内核 Apache Doris 升级了日志系统,新系统已接入 MiniMax 内部所有业务线日志数据,数据规模为 PB 级, 整体可用性达到 99.9% 以上,10 亿级日志数据的检索速度可实现秒级响应。
AI大模型独角兽 MiniMax 基于阿里云数据库 SelectDB 版内核 Apache Doris 升级日志系统,PB 数据秒级查询响应
|
16天前
|
人工智能 文字识别 算法
打造全场景、跨领域、多模态的AI工作流 | 开源图像标注工具 X-AnyLabeling v2.4.0 正式发布!
X-AnyLabeling是一款强大的辅助标注工具,集成了AI推理引擎和丰富功能,为图像数据工程师提供一站式解决方案。它支持图像和视频文件的自动标注,提供了包括矩形框、多边形在内的七种标注样式,适应多样化的训练场景需求。X-AnyLabeling内置了多种SOTA级AI模型,如YOLO、SAM系列等,并支持GPU加速和多种数据集格式的导入导出,确保高效的数据处理。此外,它还具备良好的跨平台兼容性,可在多种操作系统上运行,并提供详尽的帮助文档和社区支持,帮助用户轻松上手并解决使用过程中遇到的问题。
78 2
打造全场景、跨领域、多模态的AI工作流 | 开源图像标注工具 X-AnyLabeling v2.4.0 正式发布!
|
5天前
|
人工智能 安全 API
AI数据荒雪上加霜!MIT:网页数据的公开共享正走向衰落
【9月更文挑战第7天】麻省理工学院的一项新研究表明,尽管人工智能(AI)领域迅速发展,但网页数据的公开共享正在减少,加剧了AI数据短缺的问题。AI模型训练依赖大量数据,而网页数据是关键来源之一,其共享减少将影响AI进步,并引发数据隐私和安全方面的担忧。然而,这也推动了对数据隐私保护的关注及新型数据获取方式的探索。研究详情参见:[论文链接](https://www.dataprovenance.org/consent-in-crisis-paper)。
35 9
|
3天前
|
机器学习/深度学习 人工智能 自然语言处理
【智能助手体验】分享一款超好用的AI工具:Kimi
Kimi是一款由月之暗面科技有限公司开发的AI助手,具备强大的自然语言理解和文件内容解析能力,支持多种文件格式,并能结合互联网搜索提供全面答案。无论是在工作中的数据分析还是日常生活中的信息查询,Kimi都能给出满意的结果,展现出巨大的应用潜力。
|
7天前
|
SQL 人工智能 运维
在阿里云日志服务轻松落地您的AI模型服务——让您的数据更容易产生洞见和实现价值
您有大量的数据,数据的存储和管理消耗您大量的成本,您知道这些数据隐藏着巨大的价值,但是您总觉得还没有把数据的价值变现出来,对吗?来吧,我们用一系列的案例帮您轻松落地AI模型服务,实现数据价值的变现......
53 3
|
15天前
|
人工智能 搜索推荐 小程序
【工具】免费好用的3款AI工具网站
本文介绍了三款实用的免费AI工具网站:SDXL Turbo用于快速AI绘画、Lepton Search提供高效智能搜索、StickerBaker助力个性化贴纸创作,各具特色满足不同需求。这些工具操作简便、功能强大,适合AI爱好者及专业工作者探索利用。
21 0
【工具】免费好用的3款AI工具网站
|
15天前
|
人工智能 自然语言处理 小程序
【工具】Excel竟然也能搞AI,快来玩转chatexcel
ChatExcel是由北京大学团队开发的一款人工智能办公辅助工具,用户可通过自然语言与Excel表格互动,简化数据处理任务,如排序、求和等,无需手动编写公式或函数。本文介绍了ChatExcel的功能特点、使用方法及实操步骤,展示了如何通过简单指令完成复杂操作,提高工作效率。此外,还提供了新手指南帮助快速上手。
40 0
【工具】Excel竟然也能搞AI,快来玩转chatexcel
|
21天前
|
存储 人工智能
就AI 基础设施的演进与挑战问题之当Znode数据变更时会发生什么
就AI 基础设施的演进与挑战问题之当Znode数据变更时会发生什么