AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

flink sql 写hive ，很多小文件，有啥解决方法吗？

flink sql 写hive ，很多小文件，有啥解决方法吗？ 图片.png

展开
收起
wenti 2023-03-13 12:56:35 440 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 离原

    调整一下这个参数sink.partition-commit.delay,表示的是提交作业时间,默认是0ms,或者你就调整代码为批处理,稍微聚合一下写入到hive

    2023-03-13 13:12:43
    赞同 展开评论
问答分类：
SQL HIVE 流计算 实时计算 Flink版
问答标签：
实时计算 Flink版文件 实时计算 Flink版hive flink SQL 实时计算 Flink版SQL SQL文件
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
Flink CDC中有用flink sql连接hive的吗？
122
0
0
操作hive sql时出现异常，com.alibaba.druid.pool.DruidDataSo
541
3
0
在SQL数据源读取查询时，为什么要合并小文件？
71
1
0
MaxCompute有没有类似hive hive -e执行sql这种命令
97
1
0
druid解析hive数据库sql不支持set
205
1
0
DataWorks执行hive sql 报错 AuthDetail is invalid是什么问题？
85
1
0
Flink CDC中 sql server 部分最近发现一个问题，还有别的解决方法么？
102
0
0
Flink SQL的问题，oracle to oracle，有啥好解决方法吗？
241
2
0
flink读取kafka写入hive，sql和datastream混合写的，有谁遇到过吗？
170
0
0
平台上flink sql 写hive表 有模版么？
95
3
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问
收录在圈子:
阿里云实时计算Flink
199212
+ 订阅
实时计算 Flink 版（Alibaba Cloud Realtime Compute for Apache Flink，Powered by Ververica）是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统，由 Apache Flink 创始团队官方出品，拥有全球统一商业化品牌，完全兼容开源 Flink API，提供丰富的企业级增值功能。

相关文章

  • 2025 年 Java 从零基础小白到编程高手的详细学习路线攻略
  • 终于！大数据分析不用再“又要快又要省钱”二选一了！Dataphin新功能太香了！
  • 常见面试题11
  • 天啊，Gitee 16k star项目,不要再傻傻重复造轮子啦，高效搭建企业级后台系统框架，你不应该试一下吗？
  • 数据同步最全避坑指南！4大痛点+4大场景技术方案

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • 在斗鱼，实时计算发展的历程如何？
  • flink-CDC-3.0 mysql to doris 数据同步任务 经常报错
  • 不同版本的 flink 如何适配不同版本 kafka，flink-connect-kafka 版本
  • Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
  • 在Flink CDC中ogg可以做实时同步吗？
  • Flink这个未授权访问漏洞有什么解决方案吗？
  • 在Flink如何将多个JSON字段映射成一个表字段？
    • 展开全部
  • 通过Flink实时构建搜索引擎的索引
  • Apache Flink 的迁移之路，2 年处理效果提升 5 倍
  • Flink SQL 功能解密系列 —— 数据去重的技巧和思考
  • Flink: 实时规则引擎助力新零售发展
  • 【阿里内部应用】利用blink+MQ实现流计算中的超时统计问题
  • 基于 Flink 的实时数仓生产实践
  • Apache Flink 漫谈系列(12) - Time Interval(Time-windowed) JOIN
  • 如何分析及处理 Flink 反压？
  • Apache Flink 进阶（八）：详解 Metrics 原理与实战
  • 首次加入云栖大会的Flink专场，究竟都讲了啥？
    • 展开全部
    还有其他疑问?
    咨询AI助理