canal1.1.0往kafka发送数据量和mysql产生的量不一致
我的kafka.yml是这样配置的： retries: 0 batchSize: 1024 lingerMs: 0 bufferMemory: 33554432
canal的批次大小，单位 k，量大建议改为1M canalBatchSize: 50 filterTransactionEntry: true
canalDestinations:
canalDestination: elample topic: elample partition: mysql用存储过程插入10000条数据，每次都只能在kafka消费到6千多条
原提问者GitHub用户mjjian0
展开
收起
1
条回答
写回答
写回答
-
batchSize不能改太大，kafka消息体默认最大不能超过1M数据，所以canalBatchSize必须1M一下建议500K，batchSize可以按默认不需要修改
原回答者GitHub用户rewerma
2023-05-09 19:07:14赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
问答排行榜
最热
最新
推荐问答
相关电子书
更多
