《大数据原理:复杂信息的准备、共享和分析》一一2.1 背景

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 本节书摘来自华章出版社《大数据原理:复杂信息的准备、共享和分析》一 书中的第2章,第2.1节,作者:[美] 朱尔斯 J. 伯曼(Jules J. Berman)著 ,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.1 背景
数据标识无疑是最被低估和最不被理解的大数据问题。数据测量、注释、特性和类信息本身是没有任何意义的,只有当一个整合了这些信息的标识符能够对众多数据对象加以区分时,它们才是有意义的(见术语表,Annotation)。识别方法、待识别对象和类的选择,从根本上来讲,与大数据资源的组织模型相关。如果忽视或不恰当地进行数据标识,大数据资源就会出现问题。
本章将深入描述数据标识的可用方法以及标识信息的最小属性(包括唯一性、排他性、完整性、真实性和协调性)。我们会对不充分的识别行为带来的可怕后果进行讨论,并给出现实案例。可以对已识别出的数据对象进行去标识操作,在某些情况下,也可进行重标识(见术语表,Deidentification,Reidentification)。当遇到保密、隐私和知识产权问题时,拥有去标识化数据对象的能力将极为重要(见术语表,Privacy and confidentiality,Intellectual property)。错误检测、误差修正和数据验证等过程,要求有对去标识化的数据对象重新进行标识的能力。
标识系统的核心是其良好的信息系统,它提供了一种数据对象命名方式,这样可以通过数据对象的名字和检索方式将每个对象与系统中的其他对象区分开来。如果数据管理员正确地标识他们的数据,他们不用做任何事,就会获得一个比许多现有的大数据资源更有价值数据对象的集合。想象这样一个场景:为了治病,你出现在你出生的医院接受治疗,并且看到了自你出生以来的各种疾病记录。有可能:
1.医院的医疗记录中有你的名字,但不是你。多次努力后,他们发现另一个医疗卡记录了你的名字。这再一次证实这条记录是别人的。耗费大量的时间和精力后,你被告知,医院不能调出你的医疗记录。他们否认失去你的记录,只承认他们无法从信息系统中检索记录。
2.医院的医疗记录中有你的名字,但不是你。你和你的医生都不知道身份信息的错误。医生在认为别人的医疗记录是你的医疗记录的前提下,给你提供了不当的治疗。由于这个错误,你死了,但医院信息系统却没有明显的损失。
3.医院有你的医疗记录。随着最近有关测试和程序的完成,你的医生发现记录丢失了大量信息。在过去,没有人能发现这些失踪的记录。你询问医生你的记录是否可能与另一个病人或多个病人的记录搞混了,医生只是耸了耸肩。
4.医院有你的医疗记录,但该记录包含其他患者做的各种检查。其他一些患者的医疗记录里也有你的名字,并显示名字不同。似乎没有人明白有关其他病人的这些记录是如何进入你的图表中的。
5.你被告知该院已改变了其医院信息系统,旧的电子记录将不再可用。你被要求回答关于你的一长串病史问题。你的回答将被添加到新病历中,但许多情况你已经忘记了。
6.你被告知你的电子记录被转移到一个大型医院的医院信息系统中。发生这种情况是一个复杂的收购兼并的结果。你正在接受治疗的医院尚未部署多医院系统的信息结构,对你的医疗记录没有访问权限。你放心,你的记录没有丢失,医院可在十年之内获得访问权限。
7.你到达医院时发现,曾经医院引以为傲的大厦已经拆除,被一个大型购物中心所取代。你的电子记录已经一去不复返了,值得安慰的是你知道JC Penney公司现在在搞六折的珠宝促销活动。
医院信息系统是典型的大数据资源。与大多数大数据资源一样,医疗记录必须是唯一的、可访问的、完整的、未受掺杂(与其他人的记录混淆)的、永久性的和保密的数据。而如果没有适当标识系统,这一切是不可能达到的。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
SQL 分布式计算 数据挖掘
从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践
川航选择引入 SelectDB 建设湖仓一体大数据分析引擎,取得了数据导入效率提升 3-6 倍,查询分析性能提升 10-18 倍、实时性提升至 5 秒内等收益。
从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践
|
2天前
|
数据采集 数据可视化 数据挖掘
基于Python的App流量大数据分析与可视化方案
基于Python的App流量大数据分析与可视化方案
|
1月前
|
数据采集 机器学习/深度学习 数据可视化
探索大数据分析的无限可能:R语言的应用与实践
探索大数据分析的无限可能:R语言的应用与实践
98 9
|
2月前
|
机器学习/深度学习 数据采集 分布式计算
大数据分析中的机器学习基础:从原理到实践
大数据分析中的机器学习基础:从原理到实践
107 3
|
3月前
|
数据采集 存储 机器学习/深度学习
数据的秘密:如何用大数据分析挖掘商业价值
数据的秘密:如何用大数据分析挖掘商业价值
88 9
|
4月前
|
机器学习/深度学习 数据可视化 大数据
机器学习与大数据分析的结合:智能决策的新引擎
机器学习与大数据分析的结合:智能决策的新引擎
390 15
|
4月前
|
SQL 分布式计算 DataWorks
DataWorks产品测评|基于DataWorks和MaxCompute产品组合实现用户画像分析
本文介绍了如何使用DataWorks和MaxCompute产品组合实现用户画像分析。首先,通过阿里云官网开通DataWorks服务并创建资源组,接着创建MaxCompute项目和数据源。随后,利用DataWorks的数据集成和数据开发模块,将业务数据同步至MaxCompute,并通过ODPS SQL完成用户画像的数据加工,最终将结果写入`ads_user_info_1d`表。文章详细记录了每一步的操作过程,包括任务开发、运行、运维操作和资源释放,帮助读者顺利完成用户画像分析。此外,还指出了文档中的一些不一致之处,并提供了相应的解决方法。
|
4月前
|
分布式计算 DataWorks 搜索推荐
用户画像分析(MaxCompute简化版)
通过本教程,您可以了解如何使用DataWorks和MaxCompute产品组合进行数仓开发与分析,并通过案例体验DataWorks数据集成、数据开发和运维中心模块的相关能力。
|
5月前
|
机器学习/深度学习 存储 大数据
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系,保留最大方差信息,实现数据压缩、去噪及可视化。本文详解PCA原理、步骤及其Python实现,探讨其在图像压缩、特征提取等领域的应用,并指出使用时的注意事项,旨在帮助读者掌握这一强大工具。
327 4
|
5月前
|
关系型数据库 分布式数据库 数据库
PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具
在数字化时代,企业面对海量数据的挑战,PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具。它不仅支持高速数据读写,还通过数据分区、索引优化等策略提升分析效率,适用于电商、金融等多个行业,助力企业精准决策。
125 4

热门文章

最新文章