问题1:flink cdc 连数据库怎么限制最大连接数量? 生产库中表比较大上亿条数据, 初始化加载的时候flink 创建了大几千的连接数 快把数据库连接数撑爆了影响生产交易。 除了在数据库服务端配置用户连接数限制, flink 端有没有配置项可以控制连接数最大上限的? 另外数据库端配置了连接数上限对客户端有没有影响?
我看trunk size 默认是8096, 初始化大几千万的表需要几千个trunks都要一两天的时间, 有什么优化方案吗?connection.pool.size 默认20 好像没有什么作用, 上千个trunks 一起拉初始化数据, 连接数都好几千了,有没有做过大数据初始化同步的同学给个建议?
问题2:我看flink cdc 官网上说 连接池默认20大小, 就没有在数据库端做限制。 结果初始化拉大表的时候连接数狂飙到大几千,都快把生产交易库搞瘫了, 要不是做了连接数告警我都要准备跑路了,离线走批后面怎么做cdc的增量呢
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。