canal真好用,谢谢你们的付出。但是我发现一个问题(不知道是不是真的问题)
场景:
canal server和client都在运行中,此时往数据库变更很多数据(假设十万) 现在假设parser已经解析完,位点处于binlog最新的位置,但client消费很慢,只消费了一万条数据。此时如果server挂了,然后重新启动,读取zk上的解析位点(binlog最新位置),此时server上的binlog数据只有最新的,而client还没消费完,此时client再获取数据,是不是就获取不到那九万条没消费的数据?
原提问者GitHub用户xzhhh
每次从mysql获取binlog不是,都要从指定起始位置开始嘛, 所以我贴的是解析起始位点代码,大概是每次canal server 启动都会去拿上次客户端消费后(ack)的positon(如果有)去mysql获取binlog, 所以即使canal server 获取了10w 条记录,canal client 只消费了1000条后canal server挂了, 如果ack成功更新了这1000条记录,下次从1000开始消费,如果没有ack成功,应该从头开始消费,就会有重复!至于你说的消费不到,除非journalname,postion, timestamp 都没配置,就是从mysql binlog(show master status)最近的开始消费
原回答者GitHub用户luyee
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。