开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC 里启动多个job清洗会对原数据库的Binlog有什么影响吗?有什么推荐的方式吗?

Flink CDC中,启动多个job清洗会对原数据库的Binlog有什么影响吗?有什么推荐的方式吗?另外就是通过job把数据发送到kafka然后再进行消费是吗?

展开
收起
小小鹿鹿鹿 2024-03-11 16:08:26 36 0
1 条回答
写回答
取消 提交回答
  • 是,通常是起一个job写kafka,按照你自己的业务需求分区,之后起清洗job进行消费;也可以在一个job中source解binlog并行1,之后分流提高并行度,这样编程难度会大很多。不如加消息队列稳定性好。看你具体的数据量还有数据库的tps,结合你自己的硬件资源,配置下kafka消息的清理策略,队列的读写并发上一般很难打满。此回答来自钉群Flink CDC 社区 。

    2024-03-11 21:43:13
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    2022 DTCC-阿里云一站式数据库上云最佳实践 立即下载
    云时代的数据库技术趋势 立即下载
    超大型金融机构国产数据库全面迁移成功实践 立即下载