flink使用jdbcsink写入hive3的话 还会产生小文件问题吗？
flink使用jdbcsink写入hive3的话 还会产生小文件问题吗？
展开
收起
1
条回答
写回答
写回答
-
如果使用 Flink 的 JDBCSink 写入 Hive3，那么是有可能产生小文件问题的。
因为 JDBCSink 是基于批处理的，它会将数据缓存在内存中，直到内存满了之后才会写入 Hive3 表。如果数据量很大，那么内存很快就会满了，就会产生很多小文件。
为了避免这个问题，你可以使用 Flink 的 Checkpointing 功能。这样，Flink 会定期将数据保存到外部存储中，这样内存就不容易满了。
你也可以使用 Flink 的 Async I/O 功能。这样，Flink 会异步将数据写入 Hive3 表，这样也不容易产生小文件。
此外，你也可以使用 Hive3 的压缩功能 来压缩数据，这样也可以减少小文件。
2023-09-28 10:13:09赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
1828
Flink CDC有遇见这个问题的吗？
491
Flink这个未授权访问漏洞有什么解决方案吗？
509
flink1.15启动后无法访问webui的问题有人遇到过吗
9818
Caused by: org.apache.kafka.common.errors.TimeoutE
2241
yarn集群资源是充足的，为什么提交任务失败呢
741
flink怎么能够快速消费kafka数据，需要设置什么参数呢？
318
Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
423
"flink-cdc-connector-mysql，这个报错怎么解决的？
1262
阿里云实时计算的资源单位是什么？
3628
展开全部
阿里云实时计算产品案例&解决方案汇总
24960
回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
13643
运维场景下的实时计算应用
6856
Flink: 实时规则引擎助力新零售发展
9689
咱们从头到尾讲一次 Flink 网络流控和反压剖析
5839
基于Flink和规则引擎的实时风控解决方案
12815
Flink on YARN（下）：常见问题与排查思路
18218
Flink入坑指南 第四章：SQL中的经典操作Group By+Agg
9086
Apache Flink 零基础入门（一）：基础概念解析
9810
一文带你了解 Flink Forward 柏林站全部重点内容
3213
展开全部
相关课程
更多
相关文章
相关电子书
更多
