开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC搭建的集群 不会自己扩容taskmanager solt 这个是固定的吗?

Flink CDC搭建的集群 不会自己扩容taskmanager solt 也需要自己定义好 经常出现 solt 不够用的情况,这个是固定的吗?image.png

展开
收起
cuicuicuic 2024-03-05 23:36:51 14 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC搭建的集群的taskmanager数量并不是固定不变的,可以根据需要进行扩容或缩容

    Flink集群的扩展性是其设计的一个重要特点。在实际操作中,可以通过添加更多的TaskManager来增加集群的处理能力。当需要处理更多数据或者提高并行度时,可以启动额外的TaskManager进程。每个TaskManager可以配置一定数量的task slots,这些slots是任务执行的容器。

    如果当前集群的计算资源不足,或者有更多的数据处理需求,可以通过启动新的TaskManager来增加task slots的数量。这样,JobManager会自动将任务分配到新加入的TaskManager上,从而提高整个集群的处理能力。具体操作步骤如下:

    • 增加TaskManager: 通过运行./bin/taskmanager.sh start命令来启动新的TaskManager实例。
    • 停止TaskManager: 如果需要减少集群规模,可以使用./bin/taskmanager.sh stop命令来停止某个TaskManager实例。

    需要注意的是,在实际操作中,还需要考虑集群的资源限制,如CPU、内存和网络带宽等,以确保添加更多TaskManager不会导致资源过度竞争。

    综上所述,Flink CDC搭建的集群是可以根据实际需求进行扩容的,通过添加或移除TaskManager来实现动态调整集群规模。

    2024-03-08 23:10:30
    赞同 展开评论 打赏
  • 这是从yarn上拿资源,用多少拿多少吧 ,此回答整理自钉群“Flink CDC 社区”

    2024-03-06 10:55:41
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载