AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

请问大佬，怎么可以在任务启动的时候获取全量将要同步的行数？我担心自己select count和CD

请问大佬，怎么可以在任务启动的时候获取全量将要同步的行数？我担心自己select count和CDC查出来的不一样

展开
收起
游客3oewgrzrf6o5c 2022-08-03 15:23:41 269 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • genius985
    nnn

    要在任务启动时获取全量将要同步的行数，你可以考虑以下两种方法：

    1. 预估行数：你可以使用近似的方法来预估行数，而不是执行完整的 SELECT COUNT 查询。例如，你可以通过采样部分数据并计算所选样本的行数，然后根据样本在整个数据集中的比例来估计全量行数。这种方法可以节省时间和资源，但注意它只是一个估计值，并不保证完全准确。

    2. 基于历史记录：如果你使用了变更数据捕获（Change Data Capture，CDC）技术来跟踪数据库中的变化，你可以查看变更日志或历史记录来确定最近一次同步的行数。这样你可以根据已知的增量变化来推断出全量行数的大致范围。

    无论你选择哪种方法，都要注意到行数可能会因为数据库中的并发操作或其他因素而发生变化。因此，获取的行数仅供参考，并且在实际同步过程中可能会有所不同。

    2023-07-01 07:55:40
    赞同 展开评论
问答分类：
实时计算 Flink版
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
this xml file does not appear to have any style in
47370
10
0
请问下 我访问接口不通 什么原因 Provisional headers are shown
1542
0
0
OSS的endpoint如何查看
36077
6
0
购买阿里国外的云服务器是否可以访问谷歌？
80186
47
0
配置了安全组规则，端口还是无法访问
32128
25
0
通过www和不带www的网址输入最终都指向www.我的域名.com，求指教
123062
28
0
sql server的用户名和密码怎么查啊？
35337
21
0
域名在腾讯云备案成功，解析到阿里云服务器，提示仍需备案？
59371
30
0
Connection reset by peer的常见原因及解决办法
3652
1
0
设置域名解析如何指向我的服务器url包括端口号
17470
2
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问
收录在圈子:
阿里云实时计算Flink
199212
+ 订阅
实时计算 Flink 版（Alibaba Cloud Realtime Compute for Apache Flink，Powered by Ververica）是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统，由 Apache Flink 创始团队官方出品，拥有全球统一商业化品牌，完全兼容开源 Flink API，提供丰富的企业级增值功能。

相关文章

  • 对话王峰：Apache Flink 在 AI 时代的“剑锋”所向
  • Lazada 如何用实时计算 Flink + Hologres 构建实时商品选品平台
  • 「48小时极速反馈」阿里云实时计算Flink广招天下英雄
  • Apache Flink错误处理实战手册：2年生产环境调试经验总结
  • 抖音基于Flink的DataOps能力实践

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • flink的1cu是指1cpu还是1cpu+4g存储？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • 2018spark技术问答集锦，希望能给喜欢spark的同学一些帮助
  • Flink-CDC 文档网站地址是什么？
  • 在斗鱼，实时计算发展的历程如何？
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行
  • 在Flink CDC中ogg可以做实时同步吗？
  • Flink获取消费kafka的时候始终获取不到topic列表是啥原因啊？
    • 展开全部
  • Apache Flink 的迁移之路，2 年处理效果提升 5 倍
  • 使用 Kafka 和 Flink 构建实时数据处理系统
  • Apache Flink 为什么能够成为新一代大数据计算引擎？
  • PyFlink 社区扶持计划正式上线！
  • Flink 新场景：OLAP 引擎性能优化及应用案例
  • Flink 基础详解：大数据处理的强大引擎
  • Flink CDC：新一代实时数据集成框架
  • 从 Flink 到 Doris 的实时数据写入实践 —— 基于 Flink CDC 构建更实时高效的数据集成链路
  • Flink SQL 详解：流批一体处理的强大工具
  • Apache Paimon统一大数据湖存储底座
    • 展开全部
    还有其他疑问?
    咨询AI助理