请教一个sql作业做把postgresql同步到hudi，源表历史数据比较多，存量同步时需要把并行度
请教一个sql作业做把postgresql同步到hudi，源表历史数据比较多，存量同步时需要把并行度设置比较大才能尽快同步过来，可是实时的数据量不大，这样到了实时阶段并行度就浪费了， 如果手工重启就太麻烦了，咱们cdc connector怎么配置能自动到了实时阶段把并行度自动调小？
展开
收起
1
条回答
写回答
写回答
-
发表文章、提出问题、分享经验、结交志同道合的朋友可以考虑使用Apache NiFi来完成PostgreSQL到Hudi的同步，并根据当前数据量自动调整并行度。使用NiFi的GetPostgreSQL和PutHudi处理器来分别读取PostgreSQL和写入Hudi。
2023-04-08 20:31:29赞同 展开评论 打赏
问答分类：
问答地址：
开发者社区
>
大数据与机器学习
>
实时计算 Flink
>
问答
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
请问Flink 写数据到 ES 有遇到过这个报错的么？
2149
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1717
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
335
Flink sql 累计历史订单金额
155
Flink如何配置Task Manager？
714
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3623
大佬们，有遇到flink on k8s，访问ui界面 log接口报500吗？
326
请问如何用flink sql客户端用yarn application模式提交任务呢？
1573
请教下，finksql 这个statettl 哪里设置
1620
Caused by: org.apache.kafka.common.errors.TimeoutE
3350
展开全部
权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
24494
OPPO数据中台之基石：基于Flink SQL构建实数据仓库
21938
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
27985
通过Flink实时构建搜索引擎的索引
17469
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23421
Flink Checkpoint 问题排查实用指南
13227
广告场景下的实时计算
11067
如何在 PyFlink 1.10 中自定义 Python UDF？
9002
Apache Flink 漫谈系列(04) - State
13953
基于Flink和规则引擎的实时风控解决方案
13232
展开全部
相关文章
相关电子书
更多
