开发者社区> 问答> 正文

Flink 实时监控目录下的新文件会有文件被遗漏

在Flink 1.8.0下,通过 env.readFile 实时监控目录下的新文件并处理。5千多个文件,有25个文件被遗漏。

逻辑如下:

1、一个Flink程序实时将小文件写入目录A 2、另一个Flink程序通过env.readFile、PROCESS_CONTINUOUSLY模式实时监控目录A,然后做其他操作

发现,第二个Flink程序偶尔会遗漏文件。

请教下: 为什么会有文件丢失,丢失的原因可能是什么?并行度?*来自志愿者整理的flink邮件归档

展开
收起
小阿怪 2021-12-07 22:13:08 923 0
1 条回答
写回答
取消 提交回答
  • 监控S3上的文件。*来自志愿者整理的flink邮件归档

    2021-12-08 10:33:10
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载