AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

flink写hive partition-commit.delay 这个参数设置成0，有影响吗？

flink写hive partition-commit.delay 这个参数设置成0，来一条数据提交一次分区，会对hive产生什么影响吗？

展开
收起
wenti 2023-02-07 15:12:43 421 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 认真学习的heart

    这会导致每条数据都会被提交到hive分区，这会增加hive的负载，并且会增加hive的存储空间，因为每次提交都会产生一个新的分区。此外，这也会增加hive的查询时间，因为hive需要检查每个分区来查询数据。

    2023-02-07 17:58:34
    赞同 展开评论
问答分类：
SQL HIVE 流计算 实时计算 Flink版
问答标签：
实时计算 Flink版hive 实时计算 Flink版设置 实时计算 Flink版参数 实时计算 Flink版参数设置 实时计算 Flink版hive设置
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
Flink CDC里有没有其他简单的办法或者参数设置？
133
0
0
Flink高级参数加上后刷新为空如何处理
73
1
0
在Flink CDC中，还需要修改什么参数吗？
100
1
0
在Flink CDC中，请问flinksql中可以在连接器中增加什么参数可以解决吗？
100
0
0
在Flink CDC中如下是这个参数控制保留hive 多久的分区吗？
96
0
0
flink-cdc.sh 中的 【--global-config】参数也是提供一个yaml吗？
77
0
0
DataWorks通过脚本模式配置离线同步任务，从Hive同步数据到HBase，是参数位置不对吗？
91
1
0
Flink使用Postgres cdc时debezium.slot.name参数可以多个表共用...
103
1
0
DataWorks 从hive 同步数据到Starrcoks 这个写入端的参数文档嘛？
59
1
0
DataWorks中CDH HIVE节点代码中有获取当前任务名称的参数吗？
50
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问
收录在圈子:
阿里云实时计算Flink
199212
+ 订阅
实时计算 Flink 版（Alibaba Cloud Realtime Compute for Apache Flink，Powered by Ververica）是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统，由 Apache Flink 创始团队官方出品，拥有全球统一商业化品牌，完全兼容开源 Flink API，提供丰富的企业级增值功能。

相关文章

  • 使用 Apache Hudi 进行数据湖管理的初学者指南
  • 数据仓库终极指南：概念、技术和新兴趋势
  • 【机器人路径规划】基于流场寻路算法(Flow Field Pathfinding)的机器人路径规划（Python代码实现）
  • 【模型预测控制MPC】使用二次规划来模拟多输入多输出(MIMO)系统的模型预测控制（Matlab代码实现）

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • 在斗鱼，实时计算发展的历程如何？
  • flink-CDC-3.0 mysql to doris 数据同步任务 经常报错
  • flink怎么能够快速消费kafka数据，需要设置什么参数呢？
  • Flink CDC中，有哪位大佬有flink 版本和cdc版本的适配统计啊？
  • Flink CDC里用jdbc往达梦dm8推数据，老是显示字符被截断是咋回事？有人碰到过嘛？
  • Flink-CDC 文档网站地址是什么？
    • 展开全部
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 日均百亿级日志处理：微博基于 Flink 的实时计算平台建设
  • Apache Flink 进阶（三）：Checkpoint 原理解析与应用实践
  • Flink 实战：如何解决生产环境中的技术难题？
  • 从 Spark Streaming 到 Apache Flink：bilibili 实时平台的架构与实践
  • 首届！Apache Flink 极客挑战赛强势来袭，重磅奖项等你拿，快来组队报名啦
  • Flink 完美搭档：数据存储层上的 Pravega
  • Flink CDC：新一代实时数据集成框架
  • Flink 基础详解：大数据处理的强大引擎
  • Flink CDC：基于 Apache Flink 的流式数据集成框架
    • 展开全部
    还有其他疑问?
    咨询AI助理