fink sql 写hive 有没有人遇到过 写入的分区过多，checkpoint总失败 ，怎
fink sql 写hive 有没有人遇到过 写入的分区过多，checkpoint总失败 ，怎么办？
展开
收起
1
条回答
写回答
写回答
-
CSDN全栈领域优质创作者，万粉博主；InfoQ签约博主；华为云享专家；华为Iot专家；亚马逊人工智能自动驾驶（大众组）吉尼斯世界纪录获得者分区过多：当您写入的分区数量过多时，可能会导致Checkpoint失败。这是因为Flink Checkpoint需要将所有分区都写入磁盘才能完成。因此，如果您写入了太多的分区，则可能会导致Checkpoint失败。
解决方法：
-
增加Flink集群中的节点数以提高容错能力。
-
减少分区数量以降低Checkpoint失败的风险。
2023-06-27 15:21:28赞同 展开评论 打赏 -
问答分类：
问答地址：
开发者社区
>
大数据与机器学习
>
实时计算 Flink
>
问答
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
请问Flink 写数据到 ES 有遇到过这个报错的么？
2153
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1730
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
344
Flink sql 累计历史订单金额
170
Flink如何配置Task Manager？
720
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3627
大佬们，有遇到flink on k8s，访问ui界面 log接口报500吗？
330
flink本地启动webUI，TaskManager的Logs日志可以正常查看怎么办？
513
请问flink-connector-jdbc在sink时，如何设置批量写入？
3199
请问如何用flink sql客户端用yarn application模式提交任务呢？
1576
展开全部
数据仓库介绍与实时数仓案例
42429
权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
24499
OPPO数据中台之基石：基于Flink SQL构建实数据仓库
21939
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
27989
通过Flink实时构建搜索引擎的索引
17471
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23425
阿里云实时计算产品案例&解决方案汇总
27925
接着！！Apache Flink 全领域干货合集（持续更新）
16528
Apache Flink 的迁移之路，2 年处理效果提升 5 倍
9748
基于实时计算（Flink）打造一个简单的实时推荐系统
14433
展开全部
相关电子书
更多
