开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink往hdfs某个指定分区写数据,写一段时间为什么重命名失败?

最近flink落hdfs遇到一个问题,往hdfs某个指定分区写数据,写一段时间taskmanager发生自重启就会出现相同的文件,导致重命名失败,.part-a55f572a-4ccc-47bf-b8d5-9a2591907190-2-87.inprogress.dc5a6ac4-bbc3-4881-ac8e-89d45c6efde9

展开
收起
wenti 2023-01-16 19:47:51 219 0
1 条回答
写回答
取消 提交回答
  • 我好像也遇到过这个问题,后面我是改了hdfs的代码让他重名不抛异常直接覆盖了——该回答整理自钉群“【③群】Apache Flink China社区“

    2023-01-16 21:33:04
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    海量数据分布式存储——Apache HDFS之最新进展 立即下载