警觉!AI工具可能正在泄露您的数据...

本文涉及的产品
云原生网关 MSE Higress,422元/月
任务调度 XXL-JOB 版免费试用,400 元额度,开发版规格
可观测可视化 Grafana 版,10个用户账号 1个月
简介: 不论是企业自身使用大模型训练自己的AI服务,还是内部员工使用AI工具提高生产力,当下都已逐渐演变为常态。近期,国内某互联网大厂也被传出正通过API将ChatGPT集成至内部的应用程序和服务中用以打造自己的大模型....然而,潮流的背后,潜在的安全隐患是否能够被及时识别呢?...

AI在国内企业渗透率如何?”调研中Gartner向界面新闻记者提供了部分参考,截至今年4月底企业调研报告数据显示,有6%的企业已经部署了生成式AI工具,50%的企业正在试点使用或计划在半年内部署使用相关工具,这一比例高于中东与南亚企业。


不论是企业自身使用大模型训练自己的AI服务,还是内部员工使用AI工具提高生产力,当下都已逐渐演变为常态。近期,国内某互联网大厂也被传出正通过API将ChatGPT集成至内部的应用程序和服务中用以打造自己的大模型....然而,潮流的背后,潜在的安全隐患是否能够被及时识别呢?...


随着类ChatGPT人工智能技术的快速发展,ChatGPT等AI工具爆火,众多AI衍生产品的不断涌现加速渗透各行各业,逐渐演变为当今社会中不可或缺的一部分。与此同时,大型AI模型在文案处理、搜索引擎、图像识别、网站以及代码辅助编写插件等领域取得显著进展。


尽管这些AI工具在提高办公效率方面发挥了关键作用,却也带来一系列潜在风险。企业员工在使用AI工具时可能无意中将企业敏感数据粘贴或上传至AI工具中,而AI开发商在未经用户同意和授权的情况下,可能存在非法收集数据、违法售卖数据的风险,从而导致公司商业机密泄露的危险。


有公开信息报道ChatGPT曾发生过泄密事件:“三星公司在使用ChatGPT不到20天时,就发现自己的半导体设备测量资料、产品良率等数据被盗取,并存入了美国的ChatGPT数据库中,原因是员工直接将企业机密信息以提问的方式输入到ChatGPT中,从而导致相关内容进入学习数据库。”AI服务默认保存信息的做法使得使用AI工具存在数据泄露的风险,可能会给公司带来难以估量的损失。


此,亿格云团队经过调研后发现,在实际使用AI工具过程中,企业往往面临着两个核心挑战:

目前公司内有多少员工正在使用可能造成数据泄露的AI工具?

是否有敏感数据可能正在或已经泄露到多少AI工具中?


出于对企业真实痛点的洞察,亿格云团队发布扩展数据防泄漏(XDLP)新功能,借助亿格云枢XDLP功能能对市面上主流的AI工具进行检测与审计,充分满足多种场景:


数据泄露风险管控:

实时检测并阻止AI工具使用过程中泄露敏感数据行为


合规审计

对使用AI工具处理数据行为进行完整检测和审计,以符合企业合规要求




功能亮点解析


全面了解AI工具数据安全风险态势。亿格云枢内置海内外常见3000+网站域名,分为AI办公、AI对话、AI编程三大类,如常见的ChatGPT、通义千问、文心一言、百川大模型、Gemini、Copilot等AI工具。高效帮助企业管理者梳理敏感数据风险态势。



减少数据泄露风险。亿格云枢可精准识别向AI工具网站的文本粘贴、文件上传等动作,自动检测其敏感数据内容并生成告警事件,自动发现已安装代码工具IA插件的人员与终端,帮助企业管理者快速发现可能存在数据泄露的风险人员和风险事件。



(模拟用户粘贴上传敏感信息至AI工具)


(该高危风险行为产生告警


满足数据安全保护法律法规与合规要求。确保在数据处理中符合相关法律法规,避免因违规造成更多损失。


除了能多维度对AI工具使用的识别与检测分析之外,亿格云枢对企业数据安全建设还大有裨益,包括优化企业安全策略、提高内部安全意识、减少数据泄露事件发生、降低数据泄露事件影响等。


在企业发展经营的世界里,数据安全绝无小事。负责任的对AI工具投入管理亦迫在眉睫。亿格云也将持续致力于解决企业数据安全管理中的真实痛点,打造“企业真正受用的安全产品”。实现All in One的全效安全!

相关文章
|
2月前
|
人工智能 自然语言处理 安全
ChatBI,用AI自然语言与数据对话
在数字经济快速发展的2025年,企业数据量激增,市场对快速决策和深度分析提出更高要求。本方案介绍如何通过阿里云Quick BI工具,结合AI能力,帮助商业分析师高效应对数据洪流,实现智能化分析、快速决策,提升业务洞察力与决策效率。
ChatBI,用AI自然语言与数据对话
|
2月前
|
人工智能 自然语言处理 供应链
走进麦当劳·会数据同学:解锁AI在企业应用的深度价值
麦当劳中国进入“金拱门时代”,加速数字化转型,计划未来4年投入40亿元用于研发创新。携手阿里云与瓴羊,构建以客户为中心的数字系统,优化消费体验与门店运营,打造全球数字化标杆。
|
2月前
|
人工智能 自然语言处理 算法
AI与API结合:自动解析商品描述+情感分析评论数据
AI与API深度融合正在重塑电商运营模式。通过自动解析商品描述、分析评论情感,企业可实现信息标准化、用户画像精准化及运营决策自动化。本文从技术架构、核心算法、实战案例三方面,详解AI如何驱动电商智能化升级。
|
2月前
|
SQL 人工智能 自然语言处理
数据 + 模型 驱动 AI Native 应用发展
随着人工智能技术的飞速发展,从生成式人工智能(GenAI)到自主代理人工智能(Agentic AI)的演进,企业面临着构建 AI Native 应用的机遇与挑战。本文将深入探讨 AI 开发模式的转变、企业应用的挑战以及技术架构和开发工具的应用,旨在为读者提供一个全面的视角,以理解如何利用数据和模型驱动 AI Native 应用的发展。
129 0
|
28天前
|
数据采集 人工智能 定位技术
分享一个开源的MCP工具使用的AI Agent 支持常用的AI搜索/地图/金融/浏览器等工具
介绍一个开源可用的 MCP Tool Use 通用工具使用的 AI Agent (GitHub: https://github.com/AI-Agent-Hub/mcp-marketplace ,Web App https://agent.deepnlp.org/agent/mcp_tool_use,支持大模型从Open MCP Marketplace (http://deepnlp.org/store/ai-agent/mcp-server) 的1w+ 的 MCP Server的描述和 Tool Schema 里面,根据用户问题 query 和 工具 Tool描述的 相关性,选择出来可以满足
|
26天前
|
人工智能 自然语言处理 安全
Python构建MCP服务器:从工具封装到AI集成的全流程实践
MCP协议为AI提供标准化工具调用接口,助力模型高效操作现实世界。
297 1
|
2月前
|
人工智能 自然语言处理 API
AI-Compass Agent智能体技术生态:整合AutoGPT、LangGraph、CrewAI等前沿框架,构建自主决策工具调用的AI智能体系统
AI-Compass Agent智能体技术生态:整合AutoGPT、LangGraph、CrewAI等前沿框架,构建自主决策工具调用的AI智能体系统
|
2月前
|
人工智能 监控 数据处理
数据标注管理工具:AI燃料工厂的精益引擎
本文详解如何构建高吞吐数据标注系统,涵盖实时质检、智能调度与全息监控三大技术支柱,结合真实案例与代码实现,揭示从技术债到工程化落地的完整路径。
|
2月前
|
存储 机器学习/深度学习 人工智能
还在为释放医疗数据潜能,驱动智慧医联体升级 ——AI赋能的病历全流程智能管理解决方案
AI赋能病历管理,破解录入低效、存储难、数据沉睡等痛点。实现病历数字化、结构化、智能化,降本增效,助力医院智慧升级。
79 0
|
存储 机器学习/深度学习 人工智能
阿里云ODPS:在AI浪潮之巅,铸就下一代智能数据根基
在智能爆炸时代,ODPS正从传统数据平台进化为“AI操作系统”。面对千亿参数模型与实时决策挑战,ODPS通过流批一体架构、多模态处理、智能资源调度等技术创新,大幅提升效率与智能化水平。从自动驾驶到医疗联合建模,从数字孪生到低代码AI开发,ODPS正重塑企业数据生产力,助力全球客户在算力洪流中抢占先机。
108 0