数据集成在ODS项目的应用模式

简介:
ODS(The operational data store),也叫运营数据存储,是用于支持企业日常的全局应用的数据集合,它是介于DB和DW 之间的一种数据存储技术。从专家给出的定义上来讲,它是一个面向主题的、集成的、当前的并且是可"挥发"的数据集合,它反映了在某一个时间切片瞬间,经营 分析系统和外围系统用以相互交换数据的集合,主要用于经营分析系统与外围系统关键数据一致性校验、以及经营分析系统对其它外围系统的决策支持数据的回馈, 回馈数据包括以客户扩展属性为主体的详细资料等。从ODS的作用和实现来说,ODS将各个孤立的业务系统的运营数据集成起来,现成全企业的统一数据视图, 同时可实现ODS的数据共享。
    数据集成是什么呢?它是指异构数据之间的同步。所谓异构数据是指不同种类,不同版本的数据库、文件、Mail等之间的同步。异构数据的同步前提是要能够准 确获取数据源的元数据结构以及异构数据之间的映射方式:包括语法和语义上的映射。数据集成可以认为是ETL(BI上的定义为:抽取-转换-清洗-过滤-加 载);但更强调自动化过程管理。
    在实现机制上,应包括常见的集成模式:Split/Merge/Route/PS等;另外还应该具备建模(元数据管理)和治理(Governace)功能。
    数据集成有什么意义呢?主要是实现数据中心,例如企业级SID;或者遗留系统在数据层面的集成。在建立全局SID的基础上,可以构建很多有意义的东西:例 如Portal/CMS,报表,数据搜索,挖掘等等,这些可以概括地称为BI,即商业智能。因此,数据集成有两个层面的意义:1)操作层面 2)分析层面。
    目前,数据集成的产品有Oracle/BEA的Aqulogic DSP,Vitria的BW,还有就是开源的emule/ServiceMIX/Spring Integration等。不过据我所知,开源的东西还没有支持RDBMS Adapter的,而且还有某些重要功能的缺失例如监控、建模等。
    一般来讲,数据集成的实现方式可以分为一下四个步骤:
    1.界定数据交互的项别与内容,如:PDM系统和ERP系统之间的BOM数据;
    2.指定数据交互周期,一天一次,还是一周一次;
    3.选择交互方式,通过数据库,还是中间件技术来交互;
    4.由ODS数据交互调度程序实现数据上载或是由外围系统自行实现数据下载,从而实现数据的集成。









本文转自 牛海彬 51CTO博客,原文链接:http://blog.51cto.com/newhappy/136079,如需转载请自行联系原作者
目录
相关文章
|
存储 数据采集 传感器
谈谈大数据环境下的数据集成新模式
信息技术发展迅速。但这并不总是导致现有技术灭绝。想想信息传播的渠道,比如广播、电视和互联网。
谈谈大数据环境下的数据集成新模式
|
DataWorks 大数据
《DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季》电子版地址
DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季
129 0
《DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季》电子版地址
|
SQL JSON 分布式计算
数据集成模块中如何配置脚本模式输入组件
脚本模式组件采用的是配置json的方式配置同步任务。当表单模式透出的配置参数无法支持同步场景诉求时或配置项比较复杂,目前dataphin自定义组件UI不支持时,可采用脚本模式输入组件进行配置。本文将介绍如何同步Mysql 多表join的结果数据作为示例,其余场景均可参照此例的配置。
252 0
数据集成模块中如何配置脚本模式输入组件
|
数据采集 分布式计算 大数据
|
人工智能 定位技术
《中国人工智能学会通讯》——12.19 数据集成应用
本节书摘来自CCAI《中国人工智能学会通讯》一书中的第12章,第12.19节, 更多章节内容可以访问云栖社区“CCAI”公众号查看。
1260 0
|
SQL 关系型数据库 MySQL
数据集成通过JDBC将数据导入MySQL的几种模式
目前MySQL JDBC提供了多种将数据写入MySQL的方式,本文将介绍数据集成(DataX、同步中心、原CDP)支持的几种模式: * insert into xxx values (..), (..), (..) * replace into xxx values (..), (..), (..) * insert into xxx values (..), (..),
2073 0
|
2月前
|
DataX
datax数据推送,汉字乱码
datax数据推送,汉字乱码.
64 1