十七:主库的DUMP线程(笔记)

简介: DUMP 线程启动函数调用流程1、多次select 交互,从库需要保存主库的信息2、注册从库信息3、读取从库发送的各种信息com_binlog_dump_gtid 读取从库的信息包括 - server id - 需要读取的binlog为名字 - 读取的位点 ...

DUMP 线程启动函数调用流程

  • 1、多次select 交互,从库需要保存主库的信息
  • 2、注册从库信息
  • 3、读取从库发送的各种信息
com_binlog_dump_gtid
   读取从库的信息包括
   - server id
   - 需要读取的binlog为名字
   - 读取的位点
   - 从库GTID
   - kill_zombie_dump_threads 杀掉本从库以前的DUMP线程 根据UUID和SERVER_ID联合判断
   - mysql_binlog_send
     - Binlog_sender sender 将读取的信息保存
     - sender.run()
       - Binlog_sender::init 初始化检测
         - 主库binlog 没开不允许连接 报错
           "Binary log is not open"
         - 如果master server id为0是不允许连接的报错
           "Misconfigured master - master server_id is 0"
         - 如果GITD协议下GITD_MODE主库必须为ON,否则报错
           The replication sender thread cannot start in "
           "AUTO_POSITION mode: this server has GTID_MODE = %.192s "
           "instead of ON.
         - Binlog_sender::check_start_file() 进行从库GTID值是否可行的判断,并且打开文件也就是确认binary log的文件  
           - 取出从库关于主库server_uuid的 GTID是小于等于 主库的GTID 如果不是则报错
             简单的说就是从库比主库多事物了。
             比如主库 1:1-20 2:1-10  从库:1:1-15 2:1-30 判断1-15是否小于等于1-20  
             Slave has more GTIDs than the master has, using the master's SERVER_UUID. 
             This may indicate that the end of the binary log was truncated or that the 
             last binary log file was lost, e.g., after a power or disk failure when sync_binlog != 1. 
             The master may or may not have rolled back transactions that were already replicated to the slave. 
             Suggest to replicate any transactions that master has rolled back from slave to master, and/or commit empty transactions 
             on master to account for transactions that have been committed on master but are not included in GTID_EXECUTED."             
           - 判断主库的主库的GTID_PURGED是否是从库GTID的子集 不是则报错
             简单的说就是主库已经清理了从库拉取需要的GTID。
             比如主库GTID_PURGED:1:1-10 2:1-5 从库 1:1-10  因为从库还需要2:1-5 这些GTID 主库已经没有了
             报错
             The slave is connecting using CHANGE MASTER TO MASTER_AUTO_POSITION = 1, 
             but the master has purged binary logs containing GTIDs that the slave requires.             
           - 上面的情况还存在一种特殊情况比如主库手动删除了binary logfile。这种情况GTID_PURGED可能没有更新需要
             继续检查。
             这一步涉及到实际的binlog扫描。先扫描最后一个binlog 拿到P_EVENT检查是否 需要拉取的GTID是否在此之后。
             是就结束,否则检查上一个binlog文件 同样拉取P_EVENT检查是否 需要拉取的GTID是否在此之后,如果延迟较高
             并且设置了relay log reocvery参数的话这个过程可能有些长,比如几十秒。判断方式就是拉取P_EVENT来 判断是
             否是需要的GTID的子集,正常情况这一步还是很快的。如果最后也没找到则同样报错,以前有朋友问我这一步是否
             能够省略这里知道这一步是不能省略的原因就是前面说的GTID_PURGED可能不准,并且后面要需要打开这个binlog作为
             扫描的起点binlog
               The slave is connecting using CHANGE MASTER TO MASTER_AUTO_POSITION = 1,         
               but the master has purged binary logs containing GTIDs that the slave requires.                 
          - 将文件存入 LOG_INFO m_linfo; 中 测试打开这个 binlog 文件
          
       进入循环  会不断的读取下一个文件,如果不是历史binary log 
       是当前文件binary log则会堵塞在send_binlog 会不断的读取下,
       这一层循环是循环的binary log文件
       一个文件,如果不是历史binary log 是当然binary log则会堵塞
       - open_binlog_file   打开文件初始化读取缓存 IO_CACHE  初始化CACHE 为读CACHE 大小为8K 文件指向相应的binary log    
       - Binlog_sender::send_binlog 
         - 从初始化的位点开始读取
         - get_binlog_end_pos  获取binary log的最后位置,如果是当前binary log则堵塞获取 并且发送心跳EVENT
           获取当前读取的位置
           进入循环 
           获取当前bianry log的最后位点
           - 如果不是当前binary log
             获取需要读取binary log的最后位置
             如果(log_pos == end_pos)
             读取到文件尾部返回0
             否则返回最后位置
           - 如果是当前binary log
             wait_new_events(log_pos) 等待新 event的到来 
              进入状态 sending all event
               - wait_with_heartbeat
                 主要逻辑就是通过 &update_cond, &LOCK_binlog_end_pos来完成
                 如果没有新的event则 循环等待心跳m_heartbeat_period的描述
                 然后发一个心跳event 给从库 携带当前binlog的位置。
                 如果有break 退出循环了return 1
                 pthread_cond_timedwait 实现 有兴趣可以看看这里的实现。
                 主要在于函数被信号唤醒返回0 如果是超时为etimeout。
         - send_events 发送相应位置的 binlog 给从库
           while循环 为读取相应位置的binlog event 
           - 获取EVENT的TYPE 
           - 检查
             - 如果是auto_position=ON不能有匿名event的存在 如果有则报错
               Cannot replicate anonymous transaction when AUTO_POSITION = 1, at file %.512s, position %lld.
             - 如果是GTID_MODE=ON不能有匿名event 存在 否则报错
               Cannot replicate anonymous transaction when @@GLOBAL.GTID_MODE = ON, at file %.512s, position %lld
             - 如果是GITD_MODE=OFF不能有GTID的event存在
               Cannot replicate GTID-transaction when @@GLOBAL.GTID_MODE = OFF, at file %.512s, position %lld
             以上情况实际上如果正常操作是不会出现的,因为每次设置GITD_MODE总是会切换一个binlog,
             但是如果修改GTID_MODE不按照前面提到的流程可能会出现这些错误。
             对于第一种错误很容易重现,因为auto_postion是start slave初始化传入的。
             对于第二种和第三种错误因为EVENT的
             生成线程和DUMP线程不是同一个线程是异步通知的方式,也就是说生成GTID event到发送这段时间
             如果修改了GTID_MODE可能会出现这些问题。
           - 上面只是取到file name,POS 是从从库的master info 传送过来,
             这种情况下还会过滤掉从库已经执行的GTID,因此在GTID模式下主库
             会进行再次过滤。更加安全。
          -  发送event
相关文章
|
1月前
|
并行计算 安全 程序员
【C++】—— C++11之线程库
【C++】—— C++11之线程库
|
1月前
|
Java 调度 Python
深入解析 Python asyncio 库:如何使用线程池实现高效异步编程
深入解析 Python asyncio 库:如何使用线程池实现高效异步编程
59 0
|
5月前
|
编译器 Linux 调度
|
8月前
|
存储 设计模式 Java
4.7 C++ Boost 多线程并发库
C++语言并没有对多线程与网络的良好支持,虽然新的C++标准加入了基本的`thread`库,但是对于并发编程的支持仍然很基础,Boost库提供了数个用于实现高并发与网络相关的开发库这让我们在开发跨平台并发网络应用时能够像Java等语言一样高效开发。 thread库为C++增加了多线程处理能力,其主要提供了清晰的,互斥量,线程,条件变量等,可以很容易的实现多线程应用开发,而且该库是可跨平台的,并且支持`POSIX`和`Windows`线程。
104 0
|
8月前
|
程序员 Linux
【C++11】 线程库的使用(二)
【C++11】 线程库的使用(二)
63 0
|
8月前
|
设计模式 Linux 编译器
【C++11】 线程库的使用(一)
【C++11】 线程库的使用(一)
84 0
|
4月前
|
安全 Linux 编译器
C++11『lambda表达式 ‖ 线程库 ‖ 包装器』
C++11『lambda表达式 ‖ 线程库 ‖ 包装器』
40 0
|
5月前
|
存储 安全 编译器
|
6月前
|
存储 缓存 算法
异步编程 - 13 高性能线程间消息传递库 Disruptor
异步编程 - 13 高性能线程间消息传递库 Disruptor
55 0
|
8月前
|
缓存 Java 容器
【并发技术10】线程并发库的使用
【并发技术10】线程并发库的使用