开发者社区 > 大数据与机器学习 > 正文

测试环境一个mysql, 用Fink mysql-cdc 将DB数据同步到ES, Flink集群配?

测试环境一个mysql, 用Fink mysql-cdc 将DB数据同步到ES, Flink集群配置了20个solt, 创建10个job任务,每个job任务的mysql-cdc连接不同的表且分配了不同的server-id,每个job任务占用一个solt, 稳定运行

 后续新创建的job任务,数据同步报错提示:
    Caused by: org.apache.flink.util.FlinkRuntimeException: org.apache.flink.util.FlinkRuntimeException: java.sql.SQLTransientConnectionException: connection-pool-192.168.0.206:3306 - Connection is not available, request timed out 

但是关闭掉稳定运行10个job任务中的一个,后续创建的job任务正常数据同步,请问各位大佬,这个是什么原因导致的?所有job任务并行度都是1,每个job任务都是对应一个solt

展开
收起
真的很搞笑 2023-05-14 20:06:24 233 0
1 条回答
写回答
取消 提交回答
  • 你这是资源不够,看看task具体情况。并行度多少?适当调整一下大小 设置作业运行并行度=task slot num*task num,可以看一下 yarn 上你这个队列资源情况。你这样就得起10个task,你看看cpu、内存 的 够吗?,此回答整理自钉群“Flink CDC 社区”

    2023-05-14 20:11:12
    赞同 展开评论 打赏

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    MySQL 技术大全:开发、优化与运维实战 立即下载
    搭建电商项目架构连接MySQL 立即下载
    MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载

    相关镜像