开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC有什么唯一标识来表示每一条数据吗?

Flink CDC有什么唯一标识来表示每一条数据吗?感觉底层实现还是有点不一样image.png
我查询mysql库的日志 他的位点都是不重复的 ,不明白我监听到的数据位点是有重复的?image.png
image.png
一共插入2000条 ,同步只收到了1979,少数据了

展开
收起
真的很搞笑 2023-12-04 07:49:04 52 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    在Flink CDC中,为了区分每个数据库的唯一数据,使用了一种叫做server-id的标识符。当多个Flink CDC实例连接到同一个MySQL或者PostgreSQL等数据库时,每个实例都需要使用不同的server-id来避免冲突。通常情况下,server-id的范围可以设置为1到2^32-1(即0到4294967295)。

    2023-12-04 14:17:45
    赞同 展开评论 打赏
  • Flink CDC 使用一个名为 source_id 的唯一标识符来表示每一条数据。这个标识符是由源表的 IDENTITY 属性生成的,用于区分不同的源表。在 Flink CDC 中,每个源表都有一个唯一的 source_id,用于区分不同的数据源。

    2023-12-04 11:52:24
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载