有朋友使用过Flink多张流表进行join产生的数据倾斜如何处理和优化的？
有朋友使用过Flink多张流表进行join产生的数据倾斜如何处理和优化的？？
展开
收起
2
条回答
写回答
写回答
-
我想到四个方法，你可以去试一下
将数据进行重分区，使用HashPartitioner或者RangePartitioner。
使用Flink的Rebalance算子，将数据重新分发到不同的TaskManager上
使用Flink的CoGroup算子，将多张流表进行join操作
使用Flink的MapPartition算子，将多张流表进行join操作
2023-02-08 07:59:14赞同 展开评论 打赏 -
flink有个重分区的算子，不过你先调研一下是哪些数据发生数据倾斜呀——该回答整理自钉群“【③群】Apache Flink China社区”
2023-02-07 17:01:44赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
有个关于scan.startup.mode的配置问题想问下
1019
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
2245
请问如何用flink sql客户端用yarn application模式提交任务呢？
1724
Flink如何配置Task Manager？
887
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3824
flinkcdc性能很差
167
flinkcdc启动，怎么修改默认端口号，默认是8081。
1585
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
1437
Flink CDC里我这边flink启动之后，爆了一个时区不匹配的错误，这个该如何解决？
374
Flink CDC 能适配达梦不？
1323
展开全部
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
28184
接着！！Apache Flink 全领域干货合集（持续更新）
16534
Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
16666
为什么说流处理即未来？
9989
基于实时计算（Flink）打造一个简单的实时推荐系统
14483
Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
18550
如何正确使用 Flink Connector？
11375
Apache Flink 漫谈系列(04) - State
13999
基于Flink的实时日志分析系统实践
10561
运维场景下的实时计算应用
6978
展开全部
相关课程
更多
相关文章
相关电子书
更多
