开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink写hive全是小文件咋整啊,大佬们?

flink写hive全是小文件咋整啊,大佬们?

展开
收起
云上静思 2022-10-11 15:54:18 1882 0
1 条回答
写回答
取消 提交回答
  • 开启auto compact,数据落到hive的时候直接压缩。 https://nightlies.apache.org/flink/flink-docs-master/docs/connectors/table/filesystem/#file-compaction

    此答案来自钉钉群“【2】Apache Flink China 社区”

    2022-10-11 17:48:26
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Hive Bucketing in Apache Spark 立即下载
    spark替代HIVE实现ETL作业 立即下载
    2019大数据技术公开课第五季—Hive迁移到MaxCompute最佳实践 立即下载