开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC中LOG_MINING_FLUSH 位点信息能存到指定的表吗?

Flink CDC中LOG_MINING_FLUSH 位点信息能存到指定的表吗?

展开
收起
真的很搞笑 2023-12-19 08:07:19 241 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    当Flink CDC处理到一个CDC日志时,它会将该日志信息写入到名为LOG_MINING_FLUSH的表中。如果Flink CDC出现故障,可以通过查询这个表来恢复处理。LOG_MINING_FLUSH表主要包含以下字段:op_type(DML操作类型,例如"INSERT"、"UPDATE"和"DELETE")、table_name(被修改的表名)、before(表中被修改的数据之前的值)、after(表中被修改的数据之后的值)以及ts(CDC日志的时间戳)。

    不过,值得注意的是,尽管Flink CDC在执行checkpoint时会把位点存储到state中以支持exactly-once语义,但是它现在还不支持指定位点消费。也就是说,无法将位点信息存到指定的表中。

    2023-12-19 20:36:16
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final 立即下载
    Kubernetes下日志实时采集、存储与计算实践 立即下载
    日志数据采集与分析对接 立即下载