Java多线程-Disruptor性能用测

简介: Java多线程框架Disruptor

1. 背景

好像业界有个说法,就是在单机多线程场景下 Disruptor 号称是无敌的存在,性能可以甩 JDK 原生的多线程框架好几条街。我也是秉着探索的脚步,想要证实下这个结论。因此为验证 阻塞队列 和 Disruptor 的性能差距,这里并不做过多的严谨测试,仅仅按照 1千万、5千万、1亿三个维度的数量级作为采样测试。

首先为了将这三个数量级封装为一个抽象接口,

  • 字典类

public interface Constants {

    /**
     * 一亿
     */
    int EVENT_NUM_OHM = 100000000;

    /**
     * 五千万
     */
    int EVENT_NUM_FM = 50000000;

    /**
     * 一千万
     */
    int EVENT_NUM_OM = 10000000;
}
  • 数据类:用以模拟真实场景下的复杂对象

@Data
@AllArgsConstructor
@NoArgsConstructor
public class DataCase implements Serializable {
    private Long id ;
    private String name;
}
  • 有界阻塞队列:为了有个 JDK 原生性能作为参考,这里利用队列的写入和取出元素,通过一个有界阻塞队列,实现生产者和消费者。

public class ArrayBlockingQueueDemo {

    public static void main(String[] args) {
        ArrayBlockingQueueDemo demo = new ArrayBlockingQueueDemo();
        demo.testCostTime();
    }

    public void testCostTime(){
        // 1、手工创建线程池
        ThreadPoolExecutor pool = ThreadPoolsUtil.doCreate(2,2,"disruptor");
        // 2、声明队列的大小
        final ArrayBlockingQueue<DataCase> queue = new ArrayBlockingQueue<>(100000000);
        final long startTime = System.currentTimeMillis();
        // 3、提交生产者队列
        pool.submit(new ProvideRunable(queue));
        // 4、提交消费者队列
        pool.submit(new CoustmRunable(queue,startTime));
        // 4、关闭队列
        pool.shutdown();
    }

    class ProvideRunable implements Runnable{
        private ArrayBlockingQueue<DataCase> queue;
        // 3.1、构造函数,将队列引入进来
        ProvideRunable(ArrayBlockingQueue<DataCase> queue){
            this.queue=queue;
        }

        @Override
        public void run() {
            long i = 0;
            // 3.2、循环
            while(i < Constants.EVENT_NUM_FM) {
                try {
                    // 3.3、放入元素
                    queue.put(new DataCase(i, "c"+i));
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
                i++;
            }
        }
    }

    class CoustmRunable implements Runnable{
        private ArrayBlockingQueue<DataCase> queue;
        private long startTime;

        // 4.1、构造函数,引入队列和开始时间
        CoustmRunable(ArrayBlockingQueue<DataCase> queue,long startTime){
            this.queue=queue;
            this.startTime=startTime;
        }

        @Override
        public void run() {
            long k = 0;
            // 4.2、遍历循环
            while (k < Constants.EVENT_NUM_FM) {
                try {
                    // 4.3、取出元素
                    queue.take();
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
                k++;
            }
            long endTime = System.currentTimeMillis();
            System.out.println("ArrayBlockingQueue costTime = " + (endTime - startTime) + "ms");
        }
    }
}

在数量为 一亿的场景下,执行耗费时间是 21830 毫秒

运行结果

2. Disruptor

2.1. 核心参数

2.1.1. RingBuffer

类似环形队列的数组,随着不停地填充这个 buffer ,这个序号会一直增长,直到绕过这个环。如果想要找到数组中当前序号指向的元素,可以通过取模操作:


sequence mod array length = array index

2019120618005050-2

如果觉得想要更深入了解 原文链接中文翻译链接

2.1.2. Sequence

发布事件的递增序列号 value 前后各增加 7 个长整型的变量,保证 value 变量在一个单独的 64 字节的缓存行中,不会与其它变量在同一个缓存行,避免伪共享。

通过 sun.misc.Unsafe 类实现了对 value 变量的 CAS 操作。

2.1.3. Sequencer

主要针对生产者的模式,分为单生产者模式和多生产者模式。

  • 单生产者模式

在获取下一个可用序列号时,不会存在多线程竞争,用长整型变量 nextSequence ,而没有使用 Sequence 从而可以提高处理速度。

  • 多生产者模式

存在多个生产者同时获取下一个可用序列号的情况,存在多线程竞争,所以使用 Sequence 类型变量 cursor ,利用 Sequence 类提供的 volatile 修饰的长整型变量 valueUnsafe 提供的 CAS 操作,保证在多线程环境中序列号更新的线程安全,但影响了处理速度。

2.1.4. WaitStrategy

决定一个消费者如何等待生产者将 Event 置入 Disruptor 的策略,都是针对消费者线程的。

主要策略有:

  • BlockingWaitStrategy:最低效且折中的策略,但其对CPU的消耗最小,并且在各种部署环境中能提供更加一致的性能表现;
  • SleepingWaitStrategy:也是一种折中方案,与 BlockingWaitStrategy 类似
  • BusySpinWaitStrategy:可能出现当没有可用序列号时,长期占用CPU,不释放CPU使用权,导致其它线程无法获取CPU使用权。
  • YieldingWaitStrategy:通过 Thread.yield 方法,实现生产者和消费者之间的同步,与等待策略相比,该策略100%使用CPU
  • TimeoutBlockingWaitStrategy:

2.2. 性能测试

2.2.1. 生产者单核


public class DisruptorDemo {

    public static void main(String[] args) {
        int ringBufferSize = 65536;
        // 1、自定义 ThreadFactory
        ThreadFactory threadFactory = new PippinThreadFactory("disruptor");
        // 2、Disruptor 构造函数
        final Disruptor<DataCase> disruptor = new Disruptor<>(
                () -> new DataCase(),
                // 2.1 定义环形数组的大小
                ringBufferSize,
                threadFactory,
                // 2.2 单生产者模式
                ProducerType.SINGLE,
                // 2.3 CPU饱和的模式
                new YieldingWaitStrategy()
        );

        // 3、处理器
        ConsumerCase consumerCase = new ConsumerCase();
        disruptor.handleEventsWith(consumerCase);
        disruptor.start();

        // 4、手工创建线程池
        ThreadPoolExecutor pool = ThreadPoolsUtil.doCreate(2,2,"Pool");

        // 5、提交线程池
        pool.submit(()->{
            RingBuffer<DataCase> ringBuffer = disruptor.getRingBuffer();
            for (long i = 0; i < Constants.EVENT_NUM_OHM; i++) {
                long seq = ringBuffer.next();
                DataCase data = ringBuffer.get(seq);
                data.setId(i);
                data.setName("c" + i);
                ringBuffer.publish(seq);
            }
        });

        pool.shutdown();
    }

}

class ConsumerCase implements EventHandler<DataCase> {
    private long startTime;
    private int i;

    public ConsumerCase() {
        this.startTime = System.currentTimeMillis();
    }

    @Override
    public void onEvent(DataCase event, long sequence, boolean endOfBatch) throws Exception {
        i++;
        if (i == Constants.EVENT_NUM_OHM) {
            long endTime = System.currentTimeMillis();
            System.out.println("Disruptor costTime = " + (endTime - startTime) + "ms");
        }
    }
}

20220314152827

2.2.2. 生产者多核

目录
相关文章
|
16天前
|
并行计算 安全 Java
Python GIL(全局解释器锁)机制对多线程性能影响的深度分析
在Python开发中,GIL(全局解释器锁)一直备受关注。本文基于CPython解释器,探讨GIL的技术本质及其对程序性能的影响。GIL确保同一时刻只有一个线程执行代码,以保护内存管理的安全性,但也限制了多线程并行计算的效率。文章分析了GIL的必要性、局限性,并介绍了多进程、异步编程等替代方案。尽管Python 3.13计划移除GIL,但该特性至少要到2028年才会默认禁用,因此理解GIL仍至关重要。
83 16
Python GIL(全局解释器锁)机制对多线程性能影响的深度分析
|
2天前
|
Java 程序员 开发者
Java社招面试题:一个线程运行时发生异常会怎样?
大家好,我是小米。今天分享一个经典的 Java 面试题:线程运行时发生异常,程序会怎样处理?此问题考察 Java 线程和异常处理机制的理解。线程发生异常,默认会导致线程终止,但可以通过 try-catch 捕获并处理,避免影响其他线程。未捕获的异常可通过 Thread.UncaughtExceptionHandler 处理。线程池中的异常会被自动处理,不影响任务执行。希望这篇文章能帮助你深入理解 Java 线程异常处理机制,为面试做好准备。如果你觉得有帮助,欢迎收藏、转发!
35 14
|
5天前
|
安全 Java 程序员
Java 面试必问!线程构造方法和静态块的执行线程到底是谁?
大家好,我是小米。今天聊聊Java多线程面试题:线程类的构造方法和静态块是由哪个线程调用的?构造方法由创建线程实例的主线程调用,静态块在类加载时由主线程调用。理解这些细节有助于掌握Java多线程机制。下期再见! 简介: 本文通过一个常见的Java多线程面试题,详细讲解了线程类的构造方法和静态块是由哪个线程调用的。构造方法由创建线程实例的主线程调用,静态块在类加载时由主线程调用。理解这些细节对掌握Java多线程编程至关重要。
34 13
|
6天前
|
安全 Java 开发者
【JAVA】封装多线程原理
Java 中的多线程封装旨在简化使用、提高安全性和增强可维护性。通过抽象和隐藏底层细节,提供简洁接口。常见封装方式包括基于 Runnable 和 Callable 接口的任务封装,以及线程池的封装。Runnable 适用于无返回值任务,Callable 支持有返回值任务。线程池(如 ExecutorService)则用于管理和复用线程,减少性能开销。示例代码展示了如何实现这些封装,使多线程编程更加高效和安全。
|
1月前
|
监控 Java
java异步判断线程池所有任务是否执行完
通过上述步骤,您可以在Java中实现异步判断线程池所有任务是否执行完毕。这种方法使用了 `CompletionService`来监控任务的完成情况,并通过一个独立线程异步检查所有任务的执行状态。这种设计不仅简洁高效,还能确保在大量任务处理时程序的稳定性和可维护性。希望本文能为您的开发工作提供实用的指导和帮助。
109 17
|
2月前
|
Java
Java—多线程实现生产消费者
本文介绍了多线程实现生产消费者模式的三个版本。Version1包含四个类:`Producer`(生产者)、`Consumer`(消费者)、`Resource`(公共资源)和`TestMain`(测试类)。通过`synchronized`和`wait/notify`机制控制线程同步,但存在多个生产者或消费者时可能出现多次生产和消费的问题。 Version2将`if`改为`while`,解决了多次生产和消费的问题,但仍可能因`notify()`随机唤醒线程而导致死锁。因此,引入了`notifyAll()`来唤醒所有等待线程,但这会带来性能问题。
Java—多线程实现生产消费者
|
1月前
|
缓存 安全 算法
Java 多线程 面试题
Java 多线程 相关基础面试题
|
2月前
|
安全 Java Kotlin
Java多线程——synchronized、volatile 保障可见性
Java多线程中,`synchronized` 和 `volatile` 关键字用于保障可见性。`synchronized` 保证原子性、可见性和有序性,通过锁机制确保线程安全;`volatile` 仅保证可见性和有序性,不保证原子性。代码示例展示了如何使用 `synchronized` 和 `volatile` 解决主线程无法感知子线程修改共享变量的问题。总结:`volatile` 确保不同线程对共享变量操作的可见性,使一个线程修改后,其他线程能立即看到最新值。
|
2月前
|
消息中间件 缓存 安全
Java多线程是什么
Java多线程简介:本文介绍了Java中常见的线程池类型,包括`newCachedThreadPool`(适用于短期异步任务)、`newFixedThreadPool`(适用于固定数量的长期任务)、`newScheduledThreadPool`(支持定时和周期性任务)以及`newSingleThreadExecutor`(保证任务顺序执行)。同时,文章还讲解了Java中的锁机制,如`synchronized`关键字、CAS操作及其实现方式,并详细描述了可重入锁`ReentrantLock`和读写锁`ReadWriteLock`的工作原理与应用场景。
|
2月前
|
安全 Java 编译器
深入理解Java中synchronized三种使用方式:助您写出线程安全的代码
`synchronized` 是 Java 中的关键字,用于实现线程同步,确保多个线程互斥访问共享资源。它通过内置的监视器锁机制,防止多个线程同时执行被 `synchronized` 修饰的方法或代码块。`synchronized` 可以修饰非静态方法、静态方法和代码块,分别锁定实例对象、类对象或指定的对象。其底层原理基于 JVM 的指令和对象的监视器,JDK 1.6 后引入了偏向锁、轻量级锁等优化措施,提高了性能。
74 3