物化视图加DBLINK实现数据的同步_20170216

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 【业务场景】需要把生产的ERP系统上面的一个表的数据抽取到另外一个报表的数据库里面,公司内部是没有ESB的平台,考虑到整个需求的紧急程度和对效率的要求,建议采用物化视图+DBLINK的方式来实现数据的同步;【环境说明】数据库的版本:11.
【业务场景】需要把生产的ERP系统上面的一个表的数据抽取到另外一个报表的数据库里面,公司内部是没有ESB的平台,考虑到整个需求的紧急程度和对效率的要求,建议采用物化视图+DBLINK的方式来实现数据的同步;

【环境说明】
数据库的版本:11.2.0.3
数据的流向:DB1为源数据库,DB2为目标数据库
源表:EMP,该表包含主键EMPNO
目标物化视图:MV_EMP

【方案思路】
1、在DB2上面创建一个连接DB1的DBLINK;
2、在EMP表上面增加物化视图日志,并在目标表创建物化视图MV_EMP;
3、创建JOB进行定时刷新;


【实践操作】

1、在db2上面添加tns文件

  1. DB1 =
  2. (DESCRIPTION =
  3. (ADDRESS_LIST =
  4. (ADDRESS = (PROTOCOL = TCP)(HOST = 192.168.1.10)(PORT = 1521))
  5. )
  6. (CONNECT_DATA =
  7. (SERVICE_NAME = DB1)
  8. )
  9. )


2、在db2上面创建dblink
create  public database link  DB1 connect to "scott"  identified by  "tigger"  using  'DB1' ;

3、在db1上面创建物化视图日志

create materialized view log on EMP  with primary key;  
注:

对于已定义主键的表,分别执行以下 sql: create materialized view log on 表名  with primary key; 
对于未定义主键的表,分别执行以下 sql: create materialized view log on 表名  with rowid;


4、在db2上面创建物化视图,并设置刷新时间

CREATE MATERIALIZED VIEW SCOTT.MV_EMP
(EMPNO,ENAME,JOB,MGR,HIREDATE,SAL,COMM,DEPTNO)
REFRESH FAST ON DEMAND          
NEXT SYSDATE + 1/(24*60)   #每分钟刷新
WITH PRIMARY KEY                #基于PRIMARY KEY
AS
SELECT EMPNO,ENAME,JOB,MGR,HIREDATE,SAL,COMM,DEPTNO FROM scott.EMP@DB1;
【其他】

  • 创建物化视图日志的时候,会在相应的物化视图日志表,本质就是一张物理表,表名的结构如下:MLOG$_TABLENAME,本例中创建的物化视图日志表名为:MLOG$_EMP;
  • 当有数据变更的时候,MLOG$_EMP表就会记录源表的变更记录,等目标的物化视图表刷新以后,该表的数据会被清空;
  • 当高水位太高的情况下,也是需要进行维护的;
整个方案其实用到的东西也是很简单的,物化视图和DBLINK,当这两个功能进行结合的时候,就实现了数据仓储的数据抽取的工作。创新有时候只是功能的叠加使用;




阅读(207) | 评论(0) | 转发(1) |
相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
存储 关系型数据库 PostgreSQL
PostgreSQL通过DBLINK执行存储过程创建表
在A服务器创建存储存储过程CREATE OR REPLACE FUNCTION "public"."crt_tab"() RETURNS "pg_catalog"."int4" AS $BODY$declare str_sql varchar(100);ret int;begincreate ta...
2209 0
|
7月前
|
SQL 关系型数据库 PostgreSQL
【sql】PostgreSQL物化视图表使用案例
【sql】PostgreSQL物化视图表使用案例
70 0
|
SQL 数据库
数据库DDL-表操作
数据库数据定义语言DDL的表操作(包含创建表,修改表,展示表,删除表)
139 1
数据库DDL-表操作
|
SQL 关系型数据库 MySQL
MySQL数据库SQL脚本DDL(数据定义语言)数据表操作
MySQL数据库SQL脚本DDL(数据定义语言)数据表操作
262 0
|
索引 数据库
SQLServer中使用索引视图(物化视图)
物化视图:以前用的普通的视图,普通视图就是一段逻辑语句,对性能没有任何的提升,也不能创建索引,而物化视图会把视图里查询出来的数据在数据库上建立快照,它和物理表一样,可以创建 索引,主键约束等等,性能会有质的提升,但是其有缺点,会占用,可以设置它定时自动更新一次,也可以手动更新,当然也是可以设置及时更新的,但是会拉慢基表的增删改查操作,在这里我只讲思路,具体的话大家可以自己去研究。
1490 0
|
存储 SQL 关系型数据库
二、DDL 数据表
二、DDL 数据表
121 0
|
存储 分布式计算 大数据
MaxCompute非事务表如何更新数据
本文主要讲解如何通过insert overwrite更新数据
1983 0
MaxCompute非事务表如何更新数据
|
SQL 关系型数据库 MySQL
PolarDB-X 1.0-SQL 手册-DML-全局二级索引对DML的限制
本文将介绍PolarDB-X上全局二级索引对DML的限制。
152 0
|
关系型数据库 测试技术 数据库