问题一:Flink CDC这个语句要怎么设置状态时间呢?
Flink CDC这个语句要怎么设置状态时间呢?insert into big_table select a.id,a.name,b.detail from a inner join b on a.id=b.id
参考答案:
1.18支持不同流设置不同的ttl,1.18之前不同流的ttl都一样的, set ‘table.exec.state.ttl’=‘xxx’ ,
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/582219
问题二:flink cdc做双流链接内存是不是越占越大呢?
flink cdc做双流链接 select * from a inner join b 这样的话,内存是不是越占越大呢?
参考答案:
是的,在ttl生命周期内的两条流数据会一直增大
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/582218
问题三:Flink CDC后续会考虑支持配置 doris 里的一些建表选项么?
Flink CDC中readme 里提到的 cdc 走 pipline 的方式同步 mysql 到 doris,config 的 yaml 里官方文档里看支持的配置项不是很多,后续会考虑支持配置 doris 里的一些建表选项么,比如表的分区信息等;还是说做为 ods 自动创建的就满足需要了;比如分库分表汇总之后的表?
参考答案:
这里就支持你说的doris的参数
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/582216
问题四:Flink CDC 和 Oracle 数据同步,必须是使用主库吗?
Flink CDC 和 Oracle 数据同步,必须是使用主库吗?连接备用库是否可以,具体的影响也帮助解答一下?
参考答案:
备库可以,得看你是adg备库还是rack集群备库,建议先在测试环境试试你们oracle数据连接cdc后的负载,2.0版的cdc对oracle的负载会高,oracle cdc之前版本在第一次全量同步几亿表甚至更大的表示会出现快照过久的问题
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/582214
问题五:Flink CDC用paimon的整库,指定表同步,我新加表之后,会导致原来的表也重新全量同步吗?
Flink CDC用paimon的整库,指定表同步,我新加表之后,提示状态不兼容,我如果加上 --allowNonRestoredState 会导致原来的表也重新全量同步吗?
参考答案:
jar包重启一般都最好带--allowNonRestoredState
关于本问题的更多回答可点击进行查看: