AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

在Flink CDC中数据量太大 第一次全量同步咋整 ？

在Flink CDC中数据量太大 第一次全量同步咋整 ？

展开
收起
花开富贵111 2024-07-15 16:47:40 91 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 冲冲冲c

    有全量同步工具Canel，DTS等，或者CDC加大并发量。此回答整理来自钉群“Flink CDC 社区 ① 群”。

    2024-07-15 17:05:02
    赞同 10 展开评论
问答分类：
流计算 实时计算 Flink版
问答标签：
实时计算 Flink版CDC 实时计算 Flink版cdc同步 实时计算 Flink版同步 实时计算 Flink版全量同步 实时计算 Flink版全量
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
Flink默认先全量再增量同步，全量时会对checkpoint上锁，导致请求检查点时失败，任务重启
196
1
0
请问一下 Flink CDC 方式同步，目标数据量比源数据偏多问题
139
1
0
Flink CDC 在并行读取全量和增量数据时面临的主要挑战是什么？
50
1
0
Flink CDC 2.0 是如何实现全量与增量数据的自动切换的？
151
1
0
flink cdc现在大表的初始化全量同步，还是只能把checkpoint时间设置长点吗？
71
0
0
Flink的ctas 无状态重启 会对表在全量同步一遍么？
43
1
0
Flink历史全量同步完了，但增量一直没有更新，知道是什么问题吗？
50
0
0
在Flink CDC中,是还在做全量没做完还是已经在增量了没数据？
82
1
0
Flink状态后端数据量较大时，如何进行问题排查？
87
1
0
对于Flink CDC，oracle cdc 获取有主键的表的时候能获取全量数据这咋回事？
127
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 热烈祝贺 Flink 2.0 存算分离入选 VLDB 2025
  • 别再迷信“上大数据就能飞”了！大数据项目成败的5个真相
  • 快应用推广联盟分销逻辑及技术架构深度解析-优雅草卓伊凡|果果|Ant
  • 快应用推广联盟分销逻辑及技术架构深度解析-优雅草卓伊凡|果果|Ant
  • Flink Forward Asia 2025 主旨演讲精彩回顾

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • Flink CDC中你们选型的时候，TiDB、Oceanbase、PolarDB算国产数据库吗？
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 哪里可以查询mysql 类型和flink sql 类型的对应关系？
  • 请问flink-connector-jdbc在sink时，如何设置批量写入？
  • flink web dashboard未授权访问漏洞，怎么处理呢？
  • flink怎么能够快速消费kafka数据，需要设置什么参数呢？
    • 展开全部
  • 权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
  • Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
  • 通过Flink实时构建搜索引擎的索引
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 流计算精品翻译: The Dataflow Model
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
  • Flink Checkpoint 问题排查实用指南
  • 广告场景下的实时计算
  • 史上超强阵容！大数据及人工智能领域顶级盛会，Flink Forward Asia 2019 不容错过！
  • Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
    • 展开全部
    还有其他疑问?
    咨询AI助理