大数据时代的数据治理

简介: 其实一直想写这个主题,只是最近事有点多。按照向下兼容的特性来说,大数据治理和数据治理应该是没有差别的。但从本质而言,传统数据库的模式是Schema on Write,即在写入数据前先要定义Schema,包括了数据库的表、视图、存储过程、索引等,每个数据库条目都有自己的血缘关系(Lineage),基于角色或栏的访问控制,变更日志等等,这些内容在跨系统数据传输或转置时必须定义明确,因为在数据流的每个入库阶段都可能改变原始数据。

其实一直想写这个主题,只是最近事有点多。按照向下兼容的特性来说,大数据治理和数据治理应该是没有差别的。但从本质而言,传统数据库的模式是Schema on Write,即在写入数据前先要定义Schema,包括了数据库的表、视图、存储过程、索引等,每个数据库条目都有自己的血缘关系(Lineage),基于角色或栏的访问控制,变更日志等等,这些内容在跨系统数据传输或转置时必须定义明确,因为在数据流的每个入库阶段都可能改变原始数据。
尤其数据的血缘关系梳理是非常困难的事情。举个例子来说,最初的数据录入是在MySQL库中,进入数仓(比如Oracle)就会有数据结构的变化;数仓中还会有内置的SQL描述规范,数据需要转置;接下来进入BI工具(比如MicroStrategy)又会对数据造成改变;最后一些可视化工具(比如Tableau)又会对数据进行分类汇总。因此在传统数据治理中,通常需要有数据核验官或QA记录下在每一个数据流的落地环节,原始数据做了哪些变化与调整,并且在原始数据结构(Schema)发生变化的时候,更新其后的每一个环节的描述文档。
而大数据治理是Schema on Read的模式,即在采集各类数据时不需要定义各种数据库对象,我们甚至不知道哪些数据是今后用得上的。毕竟数据就是企业的资产,现在不做统计不代表它没有价值,只是在当前阶段不需要定义Schema而已。
由于整个采集存储过程没有涉及到任何转置,原始数据没有因为需要结构化或匹配差异系统而遭到破坏,数据的血缘关系是非常清楚的,因此在大数据治理中不需要考虑数据流的各个环节。
1
通常我们理解的大数据(非结构化)主要来自以下终端:

  1. 移动设备:包括平板与智能手机,内容有图片、视频、Po文、GPS位置信息等;
  2. 网站:包括流量分析,用户点击操作以及在线行为数据;
  3. 社交媒体:包括微博、微信、领英...
  4. 传感器设备:包括RFID射频识别、条形码、智能设备数据
  5. 企业:包括Web日志、应用日志、系统日志..
    一般企业不可能一夜之间完成数据架构的转型,而是在原数仓基础上会逐步引入Hadoop,Spark等开源组件,对于这些企业来讲,大数据治理无非在原有治理框架下添加了新的业务和IT职能模块(下图绿色部分)。

2
关于新增的大数据治理部分主要分为以下- 六个领域:

  • 首先是大数据战略与目标:在这一领域内需要定义业务目标;通过大数据的应用期望实现的业务价值;投入总成本TCO与回报率ROI;战略执行时间线以及评价指标;另外企业必须理解大数据技术发展迅速,上线前必须有POC阶段。
  • 第二是人员组织建设:按照上图的职责分工,大数据职能该放置在业务、IT还是共享服务;数据科学家该放在什么部门,PMO还是业务部门;数据科学家的内部职级序列;谁来定义大数据的使用标准;大数据如何在业务与IT之间保持连贯性。
  • 第三就是上面说到的大数据的规范使用:包括企业中大数据分析岗的角色设立以及大数据的分f析目标(是放在近期目标还是未来的机会领域);谁来评估分级大数据资产;新的数据消费者与数据生产者的动态关系以及数据管理流程须清楚明晰;新的大数据资产的生命周期管理;哪些外部数据有必要采集进来。
  • 第四是大数据架构与技术:大数据架构与技术是丰富多样的,企业需要建立一个参考模型来监控新技术与工具,当然密切关注开源社区也能获得产品更新的一手资料;鼓励POC与灰度测试,不用急于明确企业数据标准;工具与技术的人员培训;处理NoSQL的关系型假设;需要注意的还有传统的存储架构在面临大数据的海量吞吐与多样性是的表现情况。
  • 第五是大数据与信息的生命周期管理:大数据是辐射端到端信息管理全生命周期的,因此大数据战略下的数据保留策略也不得与法务、合规以及可靠性的要求相悖离;同样如前面提到的大数据是Schema on Read的模式,企业在不明确未来规划的前提下能否承受尚未使用的大数据所带来的存储负担;大数据在IT运维,备份/归档,灾难恢复等传统IT领域的影响。
  • 最后的规划领域是数据安全:即对大数据集(扫一下盲,数据库是物理概念,数据集是逻辑概念即针对某一个业务目的的数据整体)和数据查询结果的所有者须有明确定义;匹配大数据的数据安全即数据访问策略的更新;如何解决数据私密性与合规风险;对于大数据项目下的第三方数据集如何管理访问规则。
    3

从大数据治理的规划路线上,本座还是坚持以从上至下的推进方式,例如:

  • 签发企业大数据与数据科学战略;
  • 调整组织模型,定义大数据岗/部门和数据科学岗/部门职责;
  • 定义与业务目标相匹配的大数据资源使用策略和执行文档;
  • 定义大数据参考模型,参考架构及技术监控框架;
  • 检查企业中现有数据的结构化假设是否有潜在问题,是否可以通过NoSQL及其他大数据工具替换原来受技术限制的RDBMS解决方案;
  • 延伸现有的治理模式,完善企业大数据治理模型,并同步更新企业的信息标记语言(IML);
  • 快速开展企业大数据与数据科学项目,从POC开始并积极寻找到业务赞助方。
相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
机器学习/深度学习 传感器 分布式计算
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
779 14
|
数据采集 分布式计算 DataWorks
ODPS在某公共数据项目上的实践
本项目基于公共数据定义及ODPS与DataWorks技术,构建一体化智能化数据平台,涵盖数据目录、归集、治理、共享与开放六大目标。通过十大子系统实现全流程管理,强化数据安全与流通,提升业务效率与决策能力,助力数字化改革。
540 4
|
分布式计算 DataWorks 数据处理
在数据浪潮中前行:记录一次我与ODPS的实践、思考与展望
本文详细介绍了在 AI 时代背景下,如何利用阿里云 ODPS 平台(尤其是 MaxCompute)进行分布式多模态数据处理的实践过程。内容涵盖技术架构解析、完整操作流程、实际部署步骤以及未来发展方向,同时结合 CSDN 博文深入探讨了多模态数据处理的技术挑战与创新路径,为企业提供高效、低成本的大规模数据处理方案。
643 3
|
SQL 人工智能 分布式计算
ODPS:数据浪潮中的成长与突围
本文讲述了作者在大数据浪潮中,通过引入阿里云ODPS体系(包括MaxCompute、DataWorks、Hologres)解决数据处理瓶颈、实现业务突破与个人成长的故事。从被海量数据困扰到构建“离线+实时”数据架构,ODPS不仅提升了数据处理效率,更推动了技术能力与业务影响力的双重跃迁。
|
机器学习/深度学习 运维 监控
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
1285 0
|
SQL 人工智能 分布式计算
在数据浪潮中前行:我与ODPS的实践、思考与展望
在数据驱动决策的时代,企业如何高效处理海量数据成为数字化转型关键。本文结合作者实践,深入解析阿里云自研大数据平台 ODPS 的技术优势与应用场景,涵盖 MaxCompute、DataWorks、Hologres 等核心产品,分享从数据治理到实时分析的落地经验,并展望其在 AI 与向量数据时代的发展前景。
707 70
|
传感器 人工智能 监控
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
417 14
|
机器学习/深度学习 监控 大数据
数据当“安全带”:金融市场如何用大数据玩转风险控制?
数据当“安全带”:金融市场如何用大数据玩转风险控制?
761 10
|
机器学习/深度学习 传感器 监控
吃得安心靠数据?聊聊用大数据盯紧咱们的餐桌安全
吃得安心靠数据?聊聊用大数据盯紧咱们的餐桌安全
419 1
|
数据采集 自动驾驶 机器人
数据喂得好,机器人才能学得快:大数据对智能机器人训练的真正影响
数据喂得好,机器人才能学得快:大数据对智能机器人训练的真正影响
1232 1