Java多线程-Disruptor性能用测

简介: Java多线程框架Disruptor

1. 背景

好像业界有个说法,就是在单机多线程场景下 Disruptor 号称是无敌的存在,性能可以甩 JDK 原生的多线程框架好几条街。我也是秉着探索的脚步,想要证实下这个结论。因此为验证 阻塞队列 和 Disruptor 的性能差距,这里并不做过多的严谨测试,仅仅按照 1千万、5千万、1亿三个维度的数量级作为采样测试。

首先为了将这三个数量级封装为一个抽象接口,

  • 字典类

public interface Constants {

    /**
     * 一亿
     */
    int EVENT_NUM_OHM = 100000000;

    /**
     * 五千万
     */
    int EVENT_NUM_FM = 50000000;

    /**
     * 一千万
     */
    int EVENT_NUM_OM = 10000000;
}
  • 数据类:用以模拟真实场景下的复杂对象

@Data
@AllArgsConstructor
@NoArgsConstructor
public class DataCase implements Serializable {
    private Long id ;
    private String name;
}
  • 有界阻塞队列:为了有个 JDK 原生性能作为参考,这里利用队列的写入和取出元素,通过一个有界阻塞队列,实现生产者和消费者。

public class ArrayBlockingQueueDemo {

    public static void main(String[] args) {
        ArrayBlockingQueueDemo demo = new ArrayBlockingQueueDemo();
        demo.testCostTime();
    }

    public void testCostTime(){
        // 1、手工创建线程池
        ThreadPoolExecutor pool = ThreadPoolsUtil.doCreate(2,2,"disruptor");
        // 2、声明队列的大小
        final ArrayBlockingQueue<DataCase> queue = new ArrayBlockingQueue<>(100000000);
        final long startTime = System.currentTimeMillis();
        // 3、提交生产者队列
        pool.submit(new ProvideRunable(queue));
        // 4、提交消费者队列
        pool.submit(new CoustmRunable(queue,startTime));
        // 4、关闭队列
        pool.shutdown();
    }

    class ProvideRunable implements Runnable{
        private ArrayBlockingQueue<DataCase> queue;
        // 3.1、构造函数,将队列引入进来
        ProvideRunable(ArrayBlockingQueue<DataCase> queue){
            this.queue=queue;
        }

        @Override
        public void run() {
            long i = 0;
            // 3.2、循环
            while(i < Constants.EVENT_NUM_FM) {
                try {
                    // 3.3、放入元素
                    queue.put(new DataCase(i, "c"+i));
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
                i++;
            }
        }
    }

    class CoustmRunable implements Runnable{
        private ArrayBlockingQueue<DataCase> queue;
        private long startTime;

        // 4.1、构造函数,引入队列和开始时间
        CoustmRunable(ArrayBlockingQueue<DataCase> queue,long startTime){
            this.queue=queue;
            this.startTime=startTime;
        }

        @Override
        public void run() {
            long k = 0;
            // 4.2、遍历循环
            while (k < Constants.EVENT_NUM_FM) {
                try {
                    // 4.3、取出元素
                    queue.take();
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
                k++;
            }
            long endTime = System.currentTimeMillis();
            System.out.println("ArrayBlockingQueue costTime = " + (endTime - startTime) + "ms");
        }
    }
}

在数量为 一亿的场景下,执行耗费时间是 21830 毫秒

运行结果

2. Disruptor

2.1. 核心参数

2.1.1. RingBuffer

类似环形队列的数组,随着不停地填充这个 buffer ,这个序号会一直增长,直到绕过这个环。如果想要找到数组中当前序号指向的元素,可以通过取模操作:


sequence mod array length = array index

2019120618005050-2

如果觉得想要更深入了解 原文链接中文翻译链接

2.1.2. Sequence

发布事件的递增序列号 value 前后各增加 7 个长整型的变量,保证 value 变量在一个单独的 64 字节的缓存行中,不会与其它变量在同一个缓存行,避免伪共享。

通过 sun.misc.Unsafe 类实现了对 value 变量的 CAS 操作。

2.1.3. Sequencer

主要针对生产者的模式,分为单生产者模式和多生产者模式。

  • 单生产者模式

在获取下一个可用序列号时,不会存在多线程竞争,用长整型变量 nextSequence ,而没有使用 Sequence 从而可以提高处理速度。

  • 多生产者模式

存在多个生产者同时获取下一个可用序列号的情况,存在多线程竞争,所以使用 Sequence 类型变量 cursor ,利用 Sequence 类提供的 volatile 修饰的长整型变量 valueUnsafe 提供的 CAS 操作,保证在多线程环境中序列号更新的线程安全,但影响了处理速度。

2.1.4. WaitStrategy

决定一个消费者如何等待生产者将 Event 置入 Disruptor 的策略,都是针对消费者线程的。

主要策略有:

  • BlockingWaitStrategy:最低效且折中的策略,但其对CPU的消耗最小,并且在各种部署环境中能提供更加一致的性能表现;
  • SleepingWaitStrategy:也是一种折中方案,与 BlockingWaitStrategy 类似
  • BusySpinWaitStrategy:可能出现当没有可用序列号时,长期占用CPU,不释放CPU使用权,导致其它线程无法获取CPU使用权。
  • YieldingWaitStrategy:通过 Thread.yield 方法,实现生产者和消费者之间的同步,与等待策略相比,该策略100%使用CPU
  • TimeoutBlockingWaitStrategy:

2.2. 性能测试

2.2.1. 生产者单核


public class DisruptorDemo {

    public static void main(String[] args) {
        int ringBufferSize = 65536;
        // 1、自定义 ThreadFactory
        ThreadFactory threadFactory = new PippinThreadFactory("disruptor");
        // 2、Disruptor 构造函数
        final Disruptor<DataCase> disruptor = new Disruptor<>(
                () -> new DataCase(),
                // 2.1 定义环形数组的大小
                ringBufferSize,
                threadFactory,
                // 2.2 单生产者模式
                ProducerType.SINGLE,
                // 2.3 CPU饱和的模式
                new YieldingWaitStrategy()
        );

        // 3、处理器
        ConsumerCase consumerCase = new ConsumerCase();
        disruptor.handleEventsWith(consumerCase);
        disruptor.start();

        // 4、手工创建线程池
        ThreadPoolExecutor pool = ThreadPoolsUtil.doCreate(2,2,"Pool");

        // 5、提交线程池
        pool.submit(()->{
            RingBuffer<DataCase> ringBuffer = disruptor.getRingBuffer();
            for (long i = 0; i < Constants.EVENT_NUM_OHM; i++) {
                long seq = ringBuffer.next();
                DataCase data = ringBuffer.get(seq);
                data.setId(i);
                data.setName("c" + i);
                ringBuffer.publish(seq);
            }
        });

        pool.shutdown();
    }

}

class ConsumerCase implements EventHandler<DataCase> {
    private long startTime;
    private int i;

    public ConsumerCase() {
        this.startTime = System.currentTimeMillis();
    }

    @Override
    public void onEvent(DataCase event, long sequence, boolean endOfBatch) throws Exception {
        i++;
        if (i == Constants.EVENT_NUM_OHM) {
            long endTime = System.currentTimeMillis();
            System.out.println("Disruptor costTime = " + (endTime - startTime) + "ms");
        }
    }
}

20220314152827

2.2.2. 生产者多核

目录
相关文章
|
11月前
|
存储 缓存 Java
Java 12相比Java 11有哪些性能上的提升?
Java 12相比Java 11有哪些性能上的提升?
330 3
|
11月前
|
Java 测试技术 API
Java Stream API:被低估的性能陷阱与优化技巧
Java Stream API:被低估的性能陷阱与优化技巧
642 114
|
11月前
|
JSON 网络协议 安全
【Java】(10)进程与线程的关系、Tread类;讲解基本线程安全、网络编程内容;JSON序列化与反序列化
几乎所有的操作系统都支持进程的概念,进程是处于运行过程中的程序,并且具有一定的独立功能,进程是系统进行资源分配和调度的一个独立单位一般而言,进程包含如下三个特征。独立性动态性并发性。
558 1
|
11月前
|
JSON 网络协议 安全
【Java基础】(1)进程与线程的关系、Tread类;讲解基本线程安全、网络编程内容;JSON序列化与反序列化
几乎所有的操作系统都支持进程的概念,进程是处于运行过程中的程序,并且具有一定的独立功能,进程是系统进行资源分配和调度的一个独立单位一般而言,进程包含如下三个特征。独立性动态性并发性。
487 1
|
11月前
|
消息中间件 缓存 Java
Spring框架优化:提高Java应用的性能与适应性
以上方法均旨在综合考虑Java Spring 应该程序设计原则, 数据库交互, 编码实践和系统架构布局等多角度因素, 旨在达到高效稳定运转目标同时也易于未来扩展.
915 8
|
12月前
|
Java Spring
如何优化Java异步任务的性能?
本文介绍了Java中四种异步任务实现方式:基础Thread、线程池、CompletableFuture及虚拟线程。涵盖多场景代码示例,展示从简单异步到复杂流程编排的演进,适用于不同版本与业务需求,助你掌握高效并发编程实践。(239字)
539 6
|
数据采集 存储 弹性计算
高并发Java爬虫的瓶颈分析与动态线程优化方案
高并发Java爬虫的瓶颈分析与动态线程优化方案
Java 数据库 Spring
515 0
|
算法 Java
Java多线程编程:实现线程间数据共享机制
以上就是Java中几种主要处理多线程序列化资源以及协调各自独立运行但需相互配合以完成任务threads 的技术手段与策略。正确应用上述技术将大大增强你程序稳定性与效率同时也降低bug出现率因此深刻理解每项技术背后理论至关重要.
675 16
|
缓存 Java 开发者
Java 开发者必看!ArrayList 和 LinkedList 的性能厮杀:选错一次,代码慢成蜗牛
本文深入解析了 Java 中 ArrayList 和 LinkedList 的性能差异,揭示了它们在不同操作下的表现。通过对比随机访问、插入、删除等操作的效率,指出 ArrayList 在多数场景下更高效,而 LinkedList 仅在特定情况下表现优异。文章强调选择合适容器对程序性能的重要性,并提供了实用的选择法则。
525 3

热门文章

最新文章