开发者社区> 问答> 正文

在支持TiDB的数据收集和转储时,为什么选择批作业和流作业混合使用?

在支持TiDB的数据收集和转储时,为什么选择批作业和流作业混合使用?

展开
收起
不吃核桃 2024-08-19 14:45:00 8 0
1 条回答
写回答
取消 提交回答
  • 在支持TiDB的数据收集和转储时,由于全量数据往往非常大,需要高并发来加速转储过程,而增量数据则可以使用较小的并发处理。因此,我们选择使用Flink SQL Batch作业来处理全量数据,以灵活调整并发并提高效率,而增量数据则通过流作业以较小的并发进行转储。
    image.png

    2024-08-19 19:57:27
    赞同 3 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载