开发者社区> 问答> 正文

debezium是通过jdbc查询源表的数据来加载全量的历史数据吗?

Flink1.11 的cdc是支持加载历史数据的,有两个问题想求证一下: 1.底层是使用了debezium来加载历史数据的吗? 2.debezium是通过jdbc查询源表的数据来加载全量的历史数据吗? 这块会不会对数据库造成瞬时压力?

希望能帮忙解答一下,谢谢。

*来自志愿者整理的flink邮件归档

展开
收起
游客sadna6pkvqnz6 2021-12-07 17:07:23 988 0
1 条回答
写回答
取消 提交回答
  • Flink支持两种CDC格式,debezium json和 canal json, debezium 和 canal都是CDC系统,简单说他们可以把数据库表的binlog以对应的json写入到消息队列如Kafka, 作为下游系统的Flink 支持去消费对应的cdc数据,两个CDC工作都支持加载历史数据的。 另外Jark 在Veverica 开源了一个Flink CDC connector [1],支持利用debezuim直接读取数据库的cdc数据,不需要搭建CDC系统。

    不会,不是直接查询源表,所以不会锁表,加载全量历史数据时只是读取binlog的一个offset*来自志愿者整理的flink

    2021-12-07 20:29:02
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
《基于Apache Hudi的CDC数据入湖》 立即下载
HBase在时间序列数据库中的应用 立即下载
时序数据库TSDB新功能 - 如何用SQL进行时序查询 立即下载