问一个问题比如有一个cdc数据流,下游hudi或kafka,这时我限制了status=1才会写入到下游,这时候下游具有了a的status=1,这时上游从2变为1是没问题的,但是上游从1变为2,在where上限制了=1那么是不是会过滤掉status=2,这时上下游数据将不一致?
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
是的,如果上游从1变为2,并且在下游的where条件中限制了status=1,那么上游的status=2的数据将被过滤掉,导致上下游数据不一致。为了解决这个问题,你可以在下游使用一些机制来处理这种情况,例如记录下被过滤掉的数据或者使用其他方式来同步数据。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。