备案控制台

开发者社区

开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

再请教个问题：用的datax导入全量数据，然后用的ticdc增量的数据，有没什么办法判断这2个的

再请教个问题：用的datax导入全量数据，然后用的ticdc增量的数据，有没什么办法判断这2个的数据不重复呢？用布隆过滤器会出现误判不能接受，10亿数据，单个key50字节左右，放redis的话占用有点大

展开

收起

游客bcfx2q4kttgbm 2022-07-05 16:55:37 544 0

0 条回答

写回答

取消提交回答

问答分类：

DataX 实时计算 Flink版云数据库 Redis 版数据集成 Data Integration

问答标签：

数据集成 Data Integration数据

问答地址：

开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

实时计算 Flink版

使用DataWorks的datax mongodb全量迁移报错，有遇到过吗？

65

3

0

DataWorks目前数据集成支持的MongoDB数据版本有哪些？

42

2

0

dataworks 数据集成在抽取自建mysql数据时候网络一直不通？

34

2

0

DataWorks数据集成写入mysql，选择update写入模式，能不能只更新有数据的字段？

46

4

0

dataworks数据集成勾选全量初始化，同步过程中遇到主键冲突的处理方式不是更新？

56

4

0

DataWorks datax 访问odps 突然读取不到字段数据。知道什么情况吗?

22

2

0

DataWorks数据集成可以同时支持多少个节点数据接入吗？

15

0

0

dataworks的数据集成可以介入odbc api 的数据吗？

21

2

0

DataWorks分区表的全量数据导出到hologres的话数据集成该如何设置?

25

1

0

DataWorks数据集成是否可以导出分区表的全量数据?

27

1

0

大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

热门讨论

热门文章

flinkcdc3.0整库同步mysql的数据到starrocks中全量能过去增量过不去怎么排查？

FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？

Flink-CDC 文档网站地址是什么？

哪位大佬有遇到过Flink这个问题呢？同步pg的时候，是不是类冲突了，所以导致抓不到这个类？

Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行

使用Flink CDC，生产环境要申请的服务器如何评估

flink1.15启动后无法访问webui的问题有人遇到过吗

Caused by: org.apache.kafka.common.errors.TimeoutE

现在flink消费kafka限速是怎么做的?

flink web UI 是不是本身不支持登录认证，必须通过nginx来加登录认证？

展开全部

Flink+Paimon+Hologres 构建实时湖仓数据分析

数据仓库介绍与实时数仓案例

权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算

分布式Snapshot和Flink Checkpointing简介

实时计算 Flink SQL 核心功能解密

Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化

流计算StreamCompute

通过Flink实时构建搜索引擎的索引

Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示

阿里云实时计算产品案例&解决方案汇总

展开全部

相关电子书

更多

Flink CDC：新一代数据集成框架 立即下载

DataWorks数据集成实时同步最佳实践（含内测邀请）-2020飞天大数据平台实战应用第一季 立即下载

《DataWorks 数据集成实时同步》 立即下载

相关实验场景

更多