【案例】常驻查询引发的thread pool 性能问题之二

一 现象 
   某业务单机4个实例中的一个实例出现连接数远高于其他三个实例（正常是4K，问题实例是8K+），但是这4个实例的配置完全相同。业务开发反馈为部分连接失败。   
 执行show processlist结果显示：
      存在大量的Killed状态的连接126个，处于Connect状态的6K+，以及6个binlog dump连接(如果看了前面一篇文章是否有点触动，会不会是这个导致的？)
  执行pt-pmp结果显示：
      mysqld 十分的空闲
  执行show engine innodb status：
    不存在空闲大事务

二 处理
     根据上一篇文章的知识，初步判断该数据库实例遇到为 Thread Pool的部分group被阻塞了，（能把query堵在login阶段的大部分为threadpool调度的问题，当然也不排除是因为逻辑原因造成login中出现内部锁等待）
在调整thread_pool_oversubscribe后所有的Connect/Killed状态的连接全部消失，连接数恢复正常。

三 问题分析
     虽然问题是解决了，但是还有大量的疑问存在，显然在原因未知的情况下，如果在业务高峰期意外出现类似现象，后果非常严重，因此我们开始挖掘深层次的原因。
【曲折】
     既然调整thread_pool_oversubscribe后问题就解决了，很显然是有group被阻塞了，因此最重要的就是找出是什么阻塞了 Thread Pool。
     这次最能引起人注意的现象当然是这126个Killed状态的连接了，我们知道当连接在运行中，被kill后处于回滚阶段时，会显示Killed。一般来说这个阶段非常短暂（除非有大量的rollback工作，但是State信息是空的，显然不是在rollback），pt-pmp的结果也证明了这一点。最开始一直怀疑是这些Killed的连接阻塞了threadpool的某些group，但是想来想去没有想到合理的解释，这里浪费了很多的时间。
【柳暗花明】
   在Killed session上走不通，那只能看看其他session了，这时发现被阻塞的Connect连接的thread id十分有规律:
   间隔32递增，很明显是其中一个group被阻塞了。对32取模后发现全部为19号group,那看来是binlog dump没跑了。
对binlog dump线程的thread id对32取模后发现，6个thread中有4个在19号group中，而thread_pool_oversubscribe才3（内部限制为3+1），因此把19号group完全堵死。
到这里完全解释了本次拥堵产生的原因。本次问题中的126个Killed session极大的误导了我们的判断。

【深入分析】
   回过头来有人会问，那126个Killed session是怎么来的呢？
这里就需要讲一下 Thread Pool对kill处理的原理:
但是本case中，在这126个session被kill以后，刚好有一个binlog dump连接连到了即将拥堵的19号group。
看上图紧跟在Killed连接后面的4261459连接, 使得19号group彻底被堵住，可怜的Killed连接连退出的机会都没有了, 这就是这126个Killed连接的由来...