开发者社区> 问答> 正文

分析型数据库如何增量同步ODPS数据?


目前ODPS到分析型数据库之间的数据同步是离线批量同步的,不支持实时同步增量的情况。如果用户有增量同步的需求,可以考虑以下方案:

1、如果用户的数据是不更新只累加的数据,比如日志数据,可以在分析型数据库里创建表的时候设置二级分区。每次增量的数据导入到分析型数据库的一个二级分区里。
2、用户可以在ODPS里就把增量更新后的结果数据放在一个表(分区)里。这样同步只处理结果数据的全量同步,增量操作在ODPS里已经做好了。
3、用户使用实时更新的功能,自己使用SQL更新数据。这样相当于用户完全绕过了ODPS,自行实现了数据的同步。另外这样做,需要在创建表的时候设置为实时更新表。
具体的方法可以参考(这里)。

展开
收起
nicenelly 2017-10-31 14:46:59 2936 0
0 条回答
写回答
取消 提交回答
问答排行榜
最热
最新

相关电子书

更多
大数据AI一体化的解读 立即下载
极氪大数据 Serverless 应用实践 立即下载
大数据&AI实战派 第2期 立即下载