开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

求问我一个同步:flink中jdbc insert es,为何数据源一条数据删除了,es里面的没有?

求问我一个同步:flink中jdbc insert es,为何数据源一条数据删除了,es里面的没有删除?

展开
收起
真的很搞笑 2023-05-16 17:12:06 170 0
1 条回答
写回答
取消 提交回答
  • 存在即是合理

    Flink JDBC 插入 ES 的流程如下:

    1、从 JDBC 连接 ES。 2、调用 ES 的 CREATE 方法创建索引。 3、向 ES 的 PUT 方法发送数据。

    如果只是简单地从 JDBC 中删除数据,而没有使用 Flink 提供的自动删除功能,则 ES 中的数据可能会保留在 ES 中,因为 Flink 只负责将数据写入 ES。如果想要在删除数据后从 ES 中删除它们,请使用 Flink 提供的自动删除功能。

    要使用 Flink 的自动删除功能,可以执行以下操作:

    1、配置 Flink 的自动删除规则。例如,如果您想在数据流中每隔一段时间删除一个时间范围内的数据,则可以将数据流的持久化存储配置为每个小时删除一个时间范围内的数据。

    2、创建 Flink 任务,并将数据流作为输入。

    3、在任务中注册自动删除规则。例如,使用 flatMapLatest 操作符注册一个自动删除规则,在规则中指定要删除的时间范围和阈值。

    4、执行任务并等待结果。

    如果想了解更多有关 Flink 自动删除规则的信息,请参阅 Flink 官方文档中的相关主题

    2023-05-18 13:31:23
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 覃立辉 立即下载
    Flink CDC Meetup PPT - 孙家宝 立即下载
    Flink CDC Meetup PPT - 徐榜江 立即下载