DataWorks的5TB polardb数据源 同步到dataworks 对源库是否有压力?
使用DataWorks同步5TB的PolarDB数据源到DataWorks对源库可能会产生一定的压力。
DataWorks是一个大数据开发治理平台,它支持将PolarDB MySQL类型的数据源同步到不同的计算引擎,如MaxCompute。在进行数据同步时,通常有以下几点需要注意:
replace into
语句来写入数据至目标数据库。这个操作会对源数据库产生写压力。综上所述,虽然DataWorks提供了强大的数据同步能力,但在同步大规模数据时,仍然需要考虑到对源数据库可能产生的影响。建议在进行此类操作前,进行充分的评估和测试,确保源数据库有足够的资源和性能来应对同步过程中的压力。同时,监控源数据库的性能指标,以便及时发现并解决可能出现的问题。
建议先配置2并发运行看下 如果速度过快导致压力到 离线同步任务可以配置限流 ,此回答整理自钉群“DataWorks交流群(答疑@机器人)”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。