开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink写hive我这设置了文件滚动策略,但是还是产生了 很多小文件,这是为什么呢?

flink写hive我这设置了文件滚动策略,但是还是产生了 很多小文件,这是为什么呢?按照我设置参数的不应该30分钟滚动一个文件吗?image.png

展开
收起
solitude. 2023-02-21 13:54:58 510 0
1 条回答
写回答
取消 提交回答
  • datasream api 这边是根据 并行度 和 checkpoint 时间相关 ,checkpoint间隔 * 并行度,你看看sql 是不是也是这样。此回答整理自钉钉群”【③群】Apache Flink China社区“

    2023-02-21 14:02:09
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载