数据脱敏技术

简介: 【4月更文挑战第24天】数据脱敏可以划分为静态数据脱敏(Static Data Masking, SDM)和动态数据脱敏(Dynamic Data Masking, DDM)技术。

数据脱敏是一种采用专门的脱敏算法对敏感数据进行变形、屏蔽、替换、随机化、加密,并将敏感数据转化为虚构数据的技术。按照作用位置、实现原理,数据脱敏可以划分为静态数据脱敏(Static Data Masking, SDM)和动态数据脱敏(Dynamic Data Masking, DDM)技术。


静态脱敏一般用于非生产环境,在不能将敏感数据存储于非生产环境的场合中,通过脱敏程序转换生产数据,使数据内容及数据间的关联能够满足测试、开发中的问题排查需要,也可以进行数据分析、数据挖掘等分析活动。而动态脱敏通常用于生产环境,在敏感数据被低权限用户访问时对其进行脱敏,并能够根据策略执行相应的脱敏方法。静态脱敏与动态脱敏的区别在于是否在使用敏感数据时才进行脱敏,这个区别影响了脱敏规则对应的脱敏算法、脱敏策略以及脱敏操作的执行位置。


静态脱敏技术原理主要是通过内置规则来自动识别敏感数据,通过内置的脱敏算法对数据进行漂白。针对数据库的脱敏技术使用两种方法来识别敏感数据,第一种是通过人工指定,比如通过正则表达式来指定敏感数据的格式;第二种为自动识别,该方式是基于敏感数据的特征来进行自动识别的,此方式一般不需要用户编写正则表达式的格式来指定敏感数据,而是基于聚类算法,自动对数据进行识别和分类。常规的静态脱敏用来识别一些涉及个人隐私的敏感数据,比如信用卡号、ID、手机号、电子邮箱、IP地址、住址等。


识别出敏感数据之后,就需要使用脱敏算法来进行脱敏。在比较常见的数据脱敏系统中,都内置了丰富和高效率的脱敏算法。算法的选择一般是通过手工指定,对常见数据如姓名、证件号、银行账户、金额、日期、住址、电话号码、Email地址、车牌号、车架号、企业名称、工商注册号、组织机构代码、纳税人识别号等敏感数据进行脱敏。常用的内置脱敏算法有同义替换、部分数据遮蔽、混合屏蔽和可逆脱敏等。


动态脱敏通常适用于大数据应用环境。在大数据环境中,面对海量、异构、需要实时处理的数据,如何能够在不影响数据使用的条件下,在用户层面实现数据屏蔽、加密、隐藏、审计或内容封锁是动态脱敏技术的目标。动态脱敏根据安全等级要求,按照用户角色、职责和其他规则对敏感数据进行变换。动态脱敏技术对大数据应用的合规性来说至关重要。


动态数据脱敏技术目前主流的实现机制是基于代理的实现机制。用户的数据请求被代理实时在线拦截并经脱敏后返回。这种机制的脱敏判断是在数据容器外实现的,对用户及应用程序完全透明,因而能够适用于非关系型数据库,如大数据环境。

上图展示了动态脱敏技术原理。外部有三类数据请求来源,分别是内部应用系统、外部应用系统(如报表)和数据管理应用(迁移、备份等)。动态数据代理请求系统对数据的请求来源进行识别,针对内部应用执行bypaas查询,不进行脱敏运算。对于报表类或其他业务类请求,针对不同的数据库类型采用不同的脱敏算法,经过代理请求系统返回的数据即是脱敏后的数据。假设后端访问的是关系型数据库,代理请求系统将执行的SQL请求进行变形,执行内置的脱敏函数,对返回的数据进行脱敏,返回合规的脱敏后的数据。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
Cron表达式范例:每隔5秒执行一次:*/5 * * * * ?
Cron表达式范例: 每隔5秒执行一次:*/5 * * * * ? 每隔1分钟执行一次:0 */1 * * * ? 每天23点执行一次:0 0 23 * * ? ...
8227 0
|
安全 应用服务中间件 Apache
目标URL存在http host头攻击漏洞
目标URL存在http host头攻击漏洞
2016 0
目标URL存在http host头攻击漏洞
|
9月前
|
机器学习/深度学习 人工智能 安全
让AI学会“选择性遗忘”:数据脱敏如何守护你的隐私与安全
本文深入浅出讲解AI时代关键隐私技术——数据脱敏:解析掩码、聚合、微调三大“隐身术”,手把手演示Python实战(含差分隐私与分布生成),兼顾隐私安全与模型效用,并提供效果评估标准与未来趋势,助开发者打造合规、可信、可用的AI系统。(239字)
1128 9
|
10月前
|
存储 运维 监控
大模型应用:构建智能大模型运维体系:模型健康度监测系统实践.8
本系统是面向大模型的智能健康度监测平台,采用前后端分离架构(Flask+HTML/CSS/JS),实现四层立体监控(系统资源、模型运行、服务性能、业务质量)。支持实时指标采集、动态基准线告警、多维性能评分及可视化看板,具备请求全链路追踪与预测性运维能力。
478 10
|
数据采集 存储 安全
一文带你讲透数据仓库分层!
在数据处理中,常遇到数据混乱、指标不一致、开发排期长等问题,根源往往在于数据分层设计不合理。本文详解数据仓库分层(ODS、DWD、DWS、DM、APP等),阐述其在数据清洗、整合、管理及应用中的关键作用,帮助提升数据质量、减少重复开发、增强系统扩展性,从而高效支撑业务决策。
一文带你讲透数据仓库分层!
|
10月前
|
存储 安全 数据安全/隐私保护
企业硬盘加密软件选型指南:DiskCrypt与BitLocker功能、性能与应用场景全对比
本文对比国产安得卫士DiskCrypt与微软BitLocker两款硬盘加密软件,在加密深度(扇区级vs分区级)、认证机制、密钥管理、应急恢复、国产化兼容及集中管控等维度展开分析,助力用户按安全等级、合规要求与使用场景科学选型。(239字)
581 0
|
数据安全/隐私保护 数据格式
数据安全必备:三种实用的数据脱敏技术
在数字化时代,数据安全和隐私保护成为了企业和个人关注的焦点。数据脱敏作为一种有效的数据保护手段,能够降低数据泄露的风险,保护用户隐私。本文将介绍三种常见的数据脱敏方案,帮助您在实际工作中选择合适的脱敏技术。
3485 2
|
人工智能 JSON 安全
一文了解智能体协作的2大核心技术:MCP与A2A
本文由产品专家三桥君介绍了AI智能体协作中的两项关键技术——MCP(模型上下文协议)和A2A(智能体协作协议)。MCP作为智能体的"操作工具箱",支持安全调用外部工具和资源;A2A则提供智能体间的"语言与组织能力",实现异构智能体的发现与协同。三桥君通过应用场景分析,展示了这两项技术在跨云协作、汽车维修服务链等领域的实践价值,并指出它们将推动智能体技术向更高效的协作方向发展。
1440 0
|
数据采集 JavaScript 搜索推荐
服务器端渲染(SSR)(Nuxt+Next.js)
服务器端渲染(SSR)技术在服务器上生成页面HTML,提升首屏加载速度和SEO效果。Nuxt.js和Next.js分别是基于Vue.js和React.js的流行SSR框架。Nuxt.js提供自动化路由管理、页面级数据获取和布局系统,支持SSR和静态站点生成。Next.js支持SSR、静态生成和文件系统路由,通过`getServerSideProps`和`getStaticProps`实现数据获取。SSR的优点包括首屏加载快、SEO友好和适合复杂页面,但也会增加服务器压力、开发限制和调试难度。选择框架时,可根据项目需求和技术栈决定使用Nuxt.js或Next.js。
|
存储 安全 算法
Java中的数据脱敏与隐私保护技术
Java中的数据脱敏与隐私保护技术