实时计算 Flink版产品使用合集之和Oracle数据同步必须是使用主库吗

简介: 实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStreamAPI、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。

问题一:Flink CDC这个语句要怎么设置状态时间呢?

Flink CDC这个语句要怎么设置状态时间呢?insert into big_table select a.id,a.name,b.detail from a inner join b on a.id=b.id



参考答案:

1.18支持不同流设置不同的ttl,1.18之前不同流的ttl都一样的, set ‘table.exec.state.ttl’=‘xxx’ ,



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582219



问题二:flink cdc做双流链接内存是不是越占越大呢?

flink cdc做双流链接 select * from a inner join b 这样的话,内存是不是越占越大呢?



参考答案:

是的,在ttl生命周期内的两条流数据会一直增大



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582218



问题三:Flink CDC后续会考虑支持配置 doris 里的一些建表选项么?

Flink CDC中readme 里提到的 cdc 走 pipline 的方式同步 mysql 到 doris,config 的 yaml 里官方文档里看支持的配置项不是很多,后续会考虑支持配置 doris 里的一些建表选项么,比如表的分区信息等;还是说做为 ods 自动创建的就满足需要了;比如分库分表汇总之后的表?



参考答案:

这里就支持你说的doris的参数



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582216



问题四:Flink CDC 和 Oracle 数据同步,必须是使用主库吗?

Flink CDC 和 Oracle 数据同步,必须是使用主库吗?连接备用库是否可以,具体的影响也帮助解答一下?



参考答案:

备库可以,得看你是adg备库还是rack集群备库,建议先在测试环境试试你们oracle数据连接cdc后的负载,2.0版的cdc对oracle的负载会高,oracle cdc之前版本在第一次全量同步几亿表甚至更大的表示会出现快照过久的问题



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582214



问题五:Flink CDC用paimon的整库,指定表同步,我新加表之后,会导致原来的表也重新全量同步吗?

Flink CDC用paimon的整库,指定表同步,我新加表之后,提示状态不兼容,我如果加上 --allowNonRestoredState 会导致原来的表也重新全量同步吗?



参考答案:

jar包重启一般都最好带--allowNonRestoredState



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582209

相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
数据采集 监控 Oracle
实时计算 Flink版产品使用问题之如何从Oracle物理备用库中进行实时数据抽取
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
安全 Oracle 关系型数据库
三大漏洞遭利用!Mitel与Oracle产品紧急警示
三大漏洞遭利用!Mitel与Oracle产品紧急警示
|
SQL 关系型数据库 MySQL
实时计算 Flink版产品使用问题之两个数据表是否可以同时进行双向的数据同步
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
SQL Oracle 关系型数据库
实时计算 Flink版产品使用问题之Oracle数据库是集群部署的,怎么进行数据同步
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
Oracle 关系型数据库 分布式数据库
实时计算 Flink版产品使用问题之怎么实现跨多个DRDS的数据同步
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
SQL Oracle Java
实时计算 Flink版产品使用问题之采集Oracle数据时,为什么无法采集到其他TABLESPACE的表
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
SQL DataWorks 关系型数据库
DataWorks操作报错合集之如何处理数据同步时(mysql->hive)报:Render instance failed
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
391 0
|
监控 关系型数据库 MySQL
深入了解MySQL主从复制:构建高效稳定的数据同步架构
深入了解MySQL主从复制:构建高效稳定的数据同步架构
447 1
|
canal 消息中间件 关系型数据库
Canal作为一款高效、可靠的数据同步工具,凭借其基于MySQL binlog的增量同步机制,在数据同步领域展现了强大的应用价值
【9月更文挑战第1天】Canal作为一款高效、可靠的数据同步工具,凭借其基于MySQL binlog的增量同步机制,在数据同步领域展现了强大的应用价值
2064 4
|
关系型数据库 MySQL 数据库
【MySQL】手把手教你MySQL数据同步
【MySQL】手把手教你MySQL数据同步

相关产品

  • 实时计算 Flink版
  • 推荐镜像

    更多