开发者社区> 问答> 正文

DataX调度流程是什么?

DataX调度流程是什么?

展开
收起
芯在这 2021-12-13 22:22:42 512 0
1 条回答
写回答
取消 提交回答
  • 举例来说,用户提交了一个DataX作业,并且配置了20个并发,目的是将一个100张分表的mysql数据同步到odps里面。 DataX的调度决策思路是:

    DataXJob根据分库分表切分成了100个Task。

    根据20个并发,DataX计算共需要分配4个TaskGroup。

    4个TaskGroup平分切分好的100个Task,每一个TaskGroup负责以5个并发共计运行25个Task。

    2021-12-13 22:23:02
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC:新一代数据集成框架 立即下载
DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
《DataWorks 数据集成实时同步》 立即下载

相关实验场景

更多