增量订阅&消费组件canal V1.1.5更新简介

简介: 新增database.hash的开关控制,重点优化MQ发送的性能,修复已知的MySQL DDL解析问题

功能新增

  1. 重点优化MQ发送的性能,单topic最高峰值可支持3~8万的rps,接近数量级上的性能提升#2258
  1. MQ发送特性支持
  • 新增rabbitmQ的MQ发送支持 #2156
  • 支持不同topic设置不同的分区数 #2173
  • rocketMQ新增tag属性的定义 #3438
  • 参数配置支持env环境变量 #3450
  1. 多语言客户端,新增Rust
  • canal Rust客户端:[https://github.com/laohanlinux/canal-rs]
  1. 新增Adapter的自持,比如es7
  2. 新增更灵活的消息过滤能力,可以指定是否过滤Insert/Update/Delete #3452

重要优化

  1. 切换fastsql为druid 1.2.6版本,修复已知的MySQL DDL解析问题,#2168#2766#2828#3428#2954
  2. 新增database.hash的开关控制,用于满足不同业务表针对相同主键值路由到相同分区 #2248
  3. MQ消息发送(比如Kafka/RocketMQ),修复线程池死锁等待的现象 #2434
  4. 修复rocketmq针对flatMessage模式下的null值消息问题 #2990#3267
  5. 修复canal HA切换后多个instance初始化的并发冲突问题 #3454
  6. 修复MariaDB下GTID模式的使用问题 #2453

小需求&bugfix

  1. 修复admin下config接口的信息泄露 #3451
  2. 修复MySQL time类型100:00:01时解析错误 #2257
  3. 修复Aliyun RDS订阅模式下的问题,比如ak/sk参数兼容
  4. 修复gtid模式下位点持久不更新的问题 #2616
  5. 修复中文表名的表结构解析问题 #2714
  6. 修复docker基础镜像的构建问题 #3397
  7. 修复数据库名中有特殊符号的解析问题 #3377
  8. 修复json解析中的转义符问题 #3110
  9. 修复aliyun rds隐藏主键的解析支持 #2785
  10. 新增admin模式下自动注册时可自定义节点名称 #3459
相关实践学习
RocketMQ一站式入门使用
从源码编译、部署broker、部署namesrv,使用java客户端首发消息等一站式入门RocketMQ。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
1月前
|
消息中间件 负载均衡 Kafka
【Kafka面试演练】那Kafka消费者手动提交、自动提交有什么区别?
嗯嗯Ok。分区的作用主要就是为了提高Kafka处理消息吞吐量。每一个topic会被分为多个分区。假如同一个topic下有n个分区、n个消费者,这样的话每个分区就会发送消息给对应的一个消费者,这样n个消费者负载均衡地处理消息。同时生产者会发送消息给不同分区,每个分区分给不同的brocker处理,让集群平坦压力,这样大大提高了Kafka的吞吐量。面试官思考中…
64 4
|
3月前
|
消息中间件 供应链 Java
Kafka的发布-订阅功能: Java实现与应用场景解析
Kafka的发布-订阅功能: Java实现与应用场景解析
64 0
|
3月前
|
NoSQL Java Redis
Redis的发布-订阅模式是什么?它的应用场景是什么?
Redis的发布-订阅模式是什么?它的应用场景是什么?
58 0
|
8月前
|
消息中间件 负载均衡 Kafka
Kafka学习---2、kafka生产者、异步和同步发送API、分区、生产经验(一)
Kafka学习---2、kafka生产者、异步和同步发送API、分区、生产经验(一)
|
6月前
|
消息中间件 运维 物联网
一文告诉你为什么时序场景下 TDengine 数据订阅比 Kafka 好
在本文中,TDengine 研发人员详细揭秘了 TDengine 数据订阅的流程和具体实现。
130 0
|
7月前
|
消息中间件 存储 SQL
关于 TDengine 3.0 数据订阅,你需要知道这些
TDengine 3.0 对数据订阅功能又进行了优化升级,本文将详细介绍其语法规则,方便开发者及企业使用。
242 0
|
消息中间件 关系型数据库 MySQL
SpringBoot-Kafka(生产者事务、手动提交offset、定时消费、消息转发、过滤消息内容、自定义分区器、提高吞吐量)
SpringBoot-Kafka(生产者事务、手动提交offset、定时消费、消息转发、过滤消息内容、自定义分区器、提高吞吐量)
SpringBoot-Kafka(生产者事务、手动提交offset、定时消费、消息转发、过滤消息内容、自定义分区器、提高吞吐量)
|
11月前
|
消息中间件 Kafka 测试技术
Apache Kafka-消费端_批量消费消息的核心参数及功能实现
Apache Kafka-消费端_批量消费消息的核心参数及功能实现
236 0
|
11月前
|
消息中间件 存储 缓存
【Kafka使用场景/基本概念/初体验/消费模式/消费组的偏移量】
【Kafka使用场景/基本概念/初体验/消费模式/消费组的偏移量】
109 0
|
消息中间件 存储 运维
消息队列Kafka「检索组件」重磅上线!
本文对消息队列 Kafka「检索组件」进行详细介绍,首先通过对消息队列使用过程中的痛点问题进行介绍,然后针对痛点问题提出相应的解决办法,并对关键技术技术进行解读,旨在帮助大家对消息队列 Kafka「检索组件」的特点及使用方式更加熟悉,以期可以帮助大家更有效的解决在消息排查过程中遇到的痛点问题。
528 0
消息队列Kafka「检索组件」重磅上线!