开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink cdc 连数据库怎么限制最大连接数量?

问题1:flink cdc 连数据库怎么限制最大连接数量? 生产库中表比较大上亿条数据, 初始化加载的时候flink 创建了大几千的连接数 快把数据库连接数撑爆了影响生产交易。 除了在数据库服务端配置用户连接数限制, flink 端有没有配置项可以控制连接数最大上限的? 另外数据库端配置了连接数上限对客户端有没有影响?

我看trunk size 默认是8096, 初始化大几千万的表需要几千个trunks都要一两天的时间, 有什么优化方案吗?connection.pool.size 默认20 好像没有什么作用, 上千个trunks 一起拉初始化数据, 连接数都好几千了,有没有做过大数据初始化同步的同学给个建议?
问题2:我看flink cdc 官网上说 连接池默认20大小, 就没有在数据库端做限制。 结果初始化拉大表的时候连接数狂飙到大几千,都快把生产交易库搞瘫了, 要不是做了连接数告警我都要准备跑路了,离线走批后面怎么做cdc的增量呢

展开
收起
真的很搞笑 2023-08-28 14:51:44 236 0
1 条回答
写回答
取消 提交回答
  • 回答1:建议初始化直接离线走批或者文件对拷
    回答2:手动生成一下,此回答整理自钉群“Flink CDC 社区”

    2023-08-28 15:42:48
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载