问题一:Flink-CDC 2H8G 4并发下 同步速率大概应该在多少算一个正常值?
Flink-CDC 2H8G 4并发下 同步速率大概应该在多少算一个正常值?目前我这边 IN RPS 和 OUT RPS 峰值可以到达 45K ,不知道这个指标算不错还是说需要再进行部分性能调优?
参考答案:
数据库日志生成速度。 CDC connector对源数据库读取效率。 Flink作业处理数据的速度及中间操作的影响。 网络传输速度和目标系统的写入能力。
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/590897
问题二:Flink CDC里pg cdc程序已经停了,但是执行删不掉什么回事?
Flink CDC里pg cdc程序已经停了,但是执行 pg_drop_replication_slot('flink')删不掉是怎么回事?CREATE_REPLICATION_SLOT "flink" LOGICAL pgoutp。ut;
参考答案:
复制槽有占用不能删除的。-- 查询PID
select * from pg_stat_activity where pid = 31423;
-- 杀死后台PID进程
SELECT pg_terminate_backend(31423) FROM pg_stat_activity where pid = 31423找到pid按照这个杀死。
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/590896
问题三:Flink CDC里 cdc转换这块怎么设置时区?
Flink CDC里JsonDebeziumDeserializationSchema 设置更改?。cdc转换这块怎么设置时区? 现在读出来的时间快八个小时了。
参考答案:
好像没有看到设置的参数,说是debezium内部写死了。你在自定义的DebeziumDeserializationSchema,进行处理。
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/590895
问题四:Flink CDC里这些可以尽快合并到主分支吗?
Flink CDC里这些可以尽快合并到主分支吗? 目前 迁移遇到 不便, flink cdc3 说可以整库同步,但是 还是诸多限制,比如 源库和目标库名映射, 表必须有主键 不能迁移 带 blob类型的表, 主键不能是char等
参考答案:
作为一个认知智能模型,我无法直接参与Flink CDC的开发和合并决策。但是,通常情况下,开发者会根据项目的发展和需求来决定何时将功能合并到主分支。
如果你对某个功能或修复希望尽快合并到Flink CDC的主分支,你可以通过以下方式来推动:
- 提交拉取请求(Pull Request):将你的代码更改或修复提交为一个拉取请求,并在请求中说明你希望将其合并到主分支的原因和重要性。这样,项目维护者和其他贡献者可以评估并决定是否将其合并。
- 参与讨论和反馈:积极参与Flink社区的讨论和反馈,向项目维护者和其他贡献者表达你的需求和期望。他们可能会考虑你的反馈并将其纳入开发计划。
- 提供帮助和支持:如果你有能力和意愿,你可以主动提供帮助和支持,例如解决其他问题、提供文档或测试等。这样可以增加你在项目中的影响力和可见性,从而更有可能推动你的请求被采纳。
请记住,合并到主分支需要经过一系列的审查和测试过程,以确保代码质量和兼容性。因此,即使你的请求被接受,也需要一定的时间来完成这个过程。
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/590892
问题五:Flink CDC里flink 在watemark内数据乱序,对数据使用event_time重新排?
Flink CDC里flink 在watemark内数据乱序,会对数据使用event_time重新排序并输出嘛?
参考答案:
在Apache Flink的流处理中,当接收到的数据存在乱序(out-of-order)时,特别是在使用了event-time语义的情况下,Flink确实会根据event_time对这些乱序数据进行重新排序。 watermark机制是用来处理乱序事件的核心组成部分。
具体来说:
- Event Time:在Flink中,event time指的是事件实际发生的时间戳,它通常由事件自身携带。
- Watermarks:水印(Watermark)是一种衡量事件时间进度的概念,它代表了到目前为止系统认为不会再有更早时间戳的事件到达的一个时间点。一旦水印时间戳推进到了某个窗口的结束时间,Flink就会触发对该窗口内数据的处理,即使还有晚到但时间戳早于水印时间戳的事件。
- 乱序处理:当乱序事件(即事件时间戳小于当前水印时间戳)到达时,它们会被放入状态后缓存起来,直到相应的窗口触发计算。这样,即使在watermark之内存在乱序数据,最终基于event_time窗口的结果仍然是正确的,因为Flink会等待足够长的时间(由watermark策略决定)来处理那些可能稍晚到达但属于同一窗口的乱序事件。
关于本问题的更多回答可点击进行查看: