Flink有个时间节点 数据会猛的进来 导致反压,然后 检查点失败,任务重跑怎么办?
Flink有个时间节点 数据会猛的进来 导致反压,然后 检查点失败,任务重跑怎么办?
展开
收起
1
条回答
写回答
写回答
-
增加并行度。增加并行度可以减少每个子任务处理的数据量，从而降低反压的风险。
调整检查点间隔。将检查点间隔缩短可以减少检查点失败时丢失的数据量。
使用事件时间语义。事件时间语义可以确保数据按照事件发生的时间顺序处理，从而避免数据乱序导致的反压。
使用水位线。水位线可以帮助 Flink 确定哪些数据已经处理完成，哪些数据还没有处理完成，从而避免反压。
使用反压策略。Flink 提供了多种反压策略，可以根据不同的场景选择合适的反压策略来避免反压。2024-02-28 17:35:43赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
1829
Flink CDC有遇见这个问题的吗？
492
flink1.15启动后无法访问webui的问题有人遇到过吗
9820
Flink这个未授权访问漏洞有什么解决方案吗？
509
Caused by: org.apache.kafka.common.errors.TimeoutE
2241
阿里云实时计算的资源单位是什么？
3633
yarn集群资源是充足的，为什么提交任务失败呢
741
flink怎么能够快速消费kafka数据，需要设置什么参数呢？
318
Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
424
"flink-cdc-connector-mysql，这个报错怎么解决的？
1263
展开全部
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
21521
阿里云实时计算产品案例&解决方案汇总
25049
为什么说流处理即未来？
9794
Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
17727
如何在 PyFlink 1.10 中自定义 Python UDF？
8844
Flink SQL 功能解密系列 —— 数据去重的技巧和思考
10576
基于 Flink 构建 CEP 引擎的挑战和实践
6472
Flink SQL 功能解密系列 —— 解决热点问题的大杀器MiniBatch
6047
实时计算在「阿里影业实时报表业务」技术解读
4736
菜鸟双11在「仓储配送数据实时化」的台前幕后
4764
展开全部
相关文章
相关电子书
更多
