在支持TiDB的数据收集和转储时,为什么选择批作业和流作业混合使用?
在支持TiDB的数据收集和转储时,由于全量数据往往非常大,需要高并发来加速转储过程,而增量数据则可以使用较小的并发处理。因此,我们选择使用Flink SQL Batch作业来处理全量数据,以灵活调整并发并提高效率,而增量数据则通过流作业以较小的并发进行转储。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。