开发者社区 问答 正文

schedulerx2 中的这两个参数的区别是什么 ?如果我想达到子任务顺序执行 需要做什么?

问题一:schedulerx2 中的这两个参数的区别是什么 ?如果我想达到子任务顺序执行 需要两个都改成1吗 ?在schedulerx控制台 只看到子任务单机并发数的配置,代表的是DispatcherSize还是ConsumerSize啊?问题二:那如果我要达到顺序执行MapReduce的子任务 现在还有方法吗 ?包括代码调用和控制台的配置?

展开
收起
小小鹿鹿鹿 2024-01-10 07:52:32 74 分享 版权
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Schedulerx2是阿里巴巴自研的基于Akka架构的新一代分布式任务调度平台,它提供了定时、任务编排、分布式跑批等功能。在这个平台上,子任务顺序执行的配置涉及到两个参数:DispatcherSizeConsumerSize。其中,DispatcherSize表示每个机器上的线程池大小,而ConsumerSize则表示每个消费者(即任务处理者)的消费速度。这两个参数的设定值会影响任务的并发执行数量。

    对于你的问题一,如果希望子任务顺序执行,需要将这两个参数都设置为1。然而,需要注意的是,将这两个参数都设置为1会导致任务以串行的方式执行,可能会对整体的任务处理效率产生影响。

    关于问题二,如果你想要实现MapReduce任务的子任务顺序执行,目前的方法是通过在代码中进行控制。具体来说,你可以在Map函数中将数据按照键值进行分组,然后依次处理每个组内的数据,从而实现子任务的顺序执行。至于在Schedulerx控制台中的配置,目前并未看到与子任务顺序执行直接相关的设置选项。

    2024-01-13 17:59:13
    赞同 展开评论
问答分类:
问答地址: