记一次线程池调优经历

背景：

最近的一个项目需要用到招标，临时加了给我们的系统增加了一个性能需求，多少呢？

一秒钟300次NTP（不知道ntp的同学可以百度一下），平均3ms一次啊，没测试过，心里没有底。(⊙o⊙)…

情境介绍：

系统是一个时间服务器系统，客户端就是window系统，或者其他的一些服务器，来向时间服务器同步时间。

默认的window会向这个time.winodows.com进行时间同步,当然你也可以换成其他时间同步服务器。

划重点了：服务端NTP接口采用的是netty框架写的一个接口,netty想必大家都了解的吧，nio通信，性能超好的。

测试代码是使用Executors.newFixedThreadPool写的客户端，10个线程数发送ntp包

第一次测试

数据库连连接池最大设置为40个，测试结果俩一秒钟28次，是的你没有看错，连十分之一都没有，怎么这么差劲啊

达不到预期啊，不行啊，这不就达不到要求的了吗，得改啊，哪里改啊，怎么改啊？

回到代码中去，顺藤摸瓜找到具体业务类，就是继承SimpleChannelInboundHandler的类，从头到尾打量了一下业务代码，发现业务主要是构造返回消息，记录日志。

构造返回就是Java里的构造对象什么的，根本不耗时的。

那就想不是有记录日志吗，不往数据库里面写东西了，把它注释掉，跑一遍试试看。

第二遍测试

哎呦妈呀，起飞了老铁，直接飙到了每秒钟2万次。

看到这个令人惊讶的数据，这远远超过要求啊，哈哈哈，妥妥的。

突然一想，不对啊，这好像和产品设计不符合啊，设计里是要求记录日志的啊，这个是有点滥竽充数啊，不行不行，这个得改。

仔细分析一下，日志得写到数据库，读了《java高并发程序设计》，心想是不是可以用异步的方式记录日志呢，弄一个线程池吧。

阿里巴巴JAVA开发手册里是不推荐使用Executors中的现成的线程池的（具体原因我就不说了，可以看一下），那就自己写一个吧。

第三次测试

考虑到任务提交速度快的原因，第一次构造线程池采用了直接提交的队列，这样任务处理的快一些

private static ExecutorService saveThreadPool = new ThreadPoolExecutor(2, 100, 60L, TimeUnit.SECONDS,
new SynchronousQueue<Runnable(),
Executors.defaultThreadFactory(),
new ThreadPoolExecutor.DiscardPolicy());

测试代码再跑一遍，哎呦妈呀，又起飞了老铁！

心想我这么牛逼的吗，这随便写个线程池就OK了。

在服务器执行了top一看，不得了：

这个cpu直接占满了，系统里还有其他服务的，不能把资源全都给它啊。

这次留了个心眼看了下数据库日志，不对啊，没有全部记录啊，尼玛发了一百多万结果只记录了几万条，这个差太多了啊。

为什么漏掉了呢，回过头来继续看线程池的构造。

终于发现了纰漏，拒绝策略是用了new ThreadPoolExecutor.DiscardPolicy()，这个可出事了啊，不行不行，这直接丢弃了，记录日志的任务不能直接丢弃。

第四次测试

这次又把书拿出来看了看，看了一些大牛写的线程池构造，最终敲定了这样的构造方式。

private static ExecutorService saveThreadPool = new ThreadPoolExecutor(2, 40, 60L, TimeUnit.SECONDS,
            new LinkedBlockingQueue<Runnable>(50000), Executors.defaultThreadFactory(),
            new ThreadPoolExecutor.CallerRunsPolicy());

采用LinkedBlockingQueue，最多可有50000个任务在阻塞队列中，线程池最大值设置40个，核心池大小设置2个，多出来的38个线程最多活跃60秒就会被回收。

拒绝采用CallerRunsPolicy，不会丢弃任务，只要线程池未关闭，该策略直接在调用者线程中，运行当前被丢弃的任务。显然这样做不会真的丢弃任务，但是，任务提交线程的性能极有可能会急剧下降。

在代码测试中，执行了top，发现cpu的利用率稳定在24%左右,这个可以接受

测试结果：

每秒钟1千2，这个也远远超过了性能指标，而且日志也全都记录到数据中，不过这个不是及时性的，它会在测试程序结束1分钟后，才会完成数据如插入，这个和队列任务有关。

 总结：

这个线程池我是没有关闭的，因为每次任务提交后队列中还有很多任务，如果关闭的话，每次在开启一个线程池会降低速度，所以这个就不关闭了吧

如果有大神看出什么端倪的话，欢迎批评斧正，继续优化，个人感觉还有提升空间。