增量订阅&消费组件canal V1.1.5更新简介

本文涉及的产品
云解析 DNS,旗舰版 1个月
全局流量管理 GTM,标准版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: 新增database.hash的开关控制,重点优化MQ发送的性能,修复已知的MySQL DDL解析问题

功能新增

  1. 重点优化MQ发送的性能,单topic最高峰值可支持3~8万的rps,接近数量级上的性能提升#2258
  1. MQ发送特性支持
  • 新增rabbitmQ的MQ发送支持 #2156
  • 支持不同topic设置不同的分区数 #2173
  • rocketMQ新增tag属性的定义 #3438
  • 参数配置支持env环境变量 #3450
  1. 多语言客户端,新增Rust
  • canal Rust客户端:[https://github.com/laohanlinux/canal-rs]
  1. 新增Adapter的自持,比如es7
  2. 新增更灵活的消息过滤能力,可以指定是否过滤Insert/Update/Delete #3452

重要优化

  1. 切换fastsql为druid 1.2.6版本,修复已知的MySQL DDL解析问题,#2168#2766#2828#3428#2954
  2. 新增database.hash的开关控制,用于满足不同业务表针对相同主键值路由到相同分区 #2248
  3. MQ消息发送(比如Kafka/RocketMQ),修复线程池死锁等待的现象 #2434
  4. 修复rocketmq针对flatMessage模式下的null值消息问题 #2990#3267
  5. 修复canal HA切换后多个instance初始化的并发冲突问题 #3454
  6. 修复MariaDB下GTID模式的使用问题 #2453

小需求&bugfix

  1. 修复admin下config接口的信息泄露 #3451
  2. 修复MySQL time类型100:00:01时解析错误 #2257
  3. 修复Aliyun RDS订阅模式下的问题,比如ak/sk参数兼容
  4. 修复gtid模式下位点持久不更新的问题 #2616
  5. 修复中文表名的表结构解析问题 #2714
  6. 修复docker基础镜像的构建问题 #3397
  7. 修复数据库名中有特殊符号的解析问题 #3377
  8. 修复json解析中的转义符问题 #3110
  9. 修复aliyun rds隐藏主键的解析支持 #2785
  10. 新增admin模式下自动注册时可自定义节点名称 #3459
相关实践学习
消息队列RocketMQ版:基础消息收发功能体验
本实验场景介绍消息队列RocketMQ版的基础消息收发功能,涵盖实例创建、Topic、Group资源创建以及消息收发体验等基础功能模块。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
6月前
|
消息中间件 存储 Kafka
【Kafka】kafka维护消息状态的跟踪方法
【4月更文挑战第6天】【Kafka】kafka维护消息状态的跟踪方法
|
4月前
|
消息中间件 存储 监控
如何修改 Kafka 消息保留时长:经验总结
如何修改 Kafka 消息保留时长:经验总结
1009 4
|
关系型数据库 流计算 PostgreSQL
关于PostgreSQL逻辑订阅中的复制状态
关于PostgreSQL逻辑订阅中的复制状态
2680 0
|
4月前
|
消息中间件 SQL 分布式计算
DataWorks产品使用合集之如何离线增量同步Kafka数据,并指定时间范围进行同步
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
消息中间件 负载均衡 Kafka
Kafka学习---2、kafka生产者、异步和同步发送API、分区、生产经验(一)
Kafka学习---2、kafka生产者、异步和同步发送API、分区、生产经验(一)
|
消息中间件 关系型数据库 MySQL
SpringBoot-Kafka(生产者事务、手动提交offset、定时消费、消息转发、过滤消息内容、自定义分区器、提高吞吐量)
SpringBoot-Kafka(生产者事务、手动提交offset、定时消费、消息转发、过滤消息内容、自定义分区器、提高吞吐量)
SpringBoot-Kafka(生产者事务、手动提交offset、定时消费、消息转发、过滤消息内容、自定义分区器、提高吞吐量)
|
6月前
|
消息中间件 供应链 Java
Kafka的发布-订阅功能: Java实现与应用场景解析
Kafka的发布-订阅功能: Java实现与应用场景解析
187 0
|
消息中间件 存储 SQL
关于 TDengine 3.0 数据订阅,你需要知道这些
TDengine 3.0 对数据订阅功能又进行了优化升级,本文将详细介绍其语法规则,方便开发者及企业使用。
349 0
|
消息中间件 缓存 Kafka
Kafka学习---2、kafka生产者、异步和同步发送API、分区、生产经验(二)
Kafka学习---2、kafka生产者、异步和同步发送API、分区、生产经验(二)
|
消息中间件 Kafka 测试技术
Apache Kafka-消费端_批量消费消息的核心参数及功能实现
Apache Kafka-消费端_批量消费消息的核心参数及功能实现
369 0