开发者社区 问答 正文

在支持TiDB的数据收集和转储时,为什么选择批作业和流作业混合使用?

在支持TiDB的数据收集和转储时,为什么选择批作业和流作业混合使用?

展开
收起
不吃核桃 2024-08-19 14:45:00 11 分享 版权
1 条回答
写回答
取消 提交回答
  • 在支持TiDB的数据收集和转储时,由于全量数据往往非常大,需要高并发来加速转储过程,而增量数据则可以使用较小的并发处理。因此,我们选择使用Flink SQL Batch作业来处理全量数据,以灵活调整并发并提高效率,而增量数据则通过流作业以较小的并发进行转储。
    image.png

    2024-08-19 19:57:27
    赞同 3 展开评论
问答地址: