HBase中Disruptor使用

简介: // 核心是一个循环缓冲区。我们的循环缓冲区是一个LMAX Disruptor。当多个线程在单个WAL竞争append和sync时,它试图最小化同步与volatile写。 // Disruptor配置为处理多个生产者和仅有一个消费者(HBase中的生产者是调用append、sync的IPC Handlers)。
  // 核心是一个循环缓冲区。我们的循环缓冲区是一个LMAX Disruptor。当多个线程在单个WAL竞争append和sync时,它试图最小化同步与volatile写。
  // Disruptor配置为处理多个生产者和仅有一个消费者(HBase中的生产者是调用append、sync的IPC Handlers)。单一的消费者从环形缓冲区中
  // 拉去append和sync。

    /**
     * RingBufferTruck为事件--Event
     * RingBufferTruck.EVENT_FACTORY为事件工厂--EventFactory
     * preallocatedEventCount为RingBuffer大小,必须是2的N次方,默认为1024*16
     * appendExecutor为事件处理的线程池--newSingleThreadExecutor
     * ProducerType.MULTI为生产者类型,意思为多个生产者
     * BlockingWaitStrategy为指定的等待策略
     */
    this.disruptor =
      new Disruptor<RingBufferTruck>(RingBufferTruck.EVENT_FACTORY, preallocatedEventCount,
        this.appendExecutor, ProducerType.MULTI, new BlockingWaitStrategy());
    // Advance the ring buffer sequence so that it starts from 1 instead of 0,
    // because SyncFuture.NOT_DONE = 0.
    // 请求下一个事件序号
    // 让ring buffer sequence从1开始,而不是从0开始
    this.disruptor.getRingBuffer().next();
    
    // 构造事件处理器实例
    this.ringBufferEventHandler =
      new RingBufferEventHandler(conf.getInt("hbase.regionserver.hlog.syncer.count", 5),
        maxHandlersCount);
    
    // 添加异常处理器
    this.disruptor.handleExceptionsWith(new RingBufferExceptionHandler());
    // 添加事件处理器
    this.disruptor.handleEventsWith(new RingBufferEventHandler [] {this.ringBufferEventHandler});
    
    // Presize our map of SyncFutures by handler objects.
    this.syncFuturesByHandler = new ConcurrentHashMap<Thread, SyncFuture>(maxHandlersCount);
    // Starting up threads in constructor is a no no; Interface should have an init call.
    // 启动disruptor
    this.disruptor.start();

相关实践学习
lindorm多模间数据无缝流转
展现了Lindorm多模融合能力——用kafka API写入,无缝流转在各引擎内进行数据存储和计算的实验。
云数据库HBase版使用教程
&nbsp; 相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情:&nbsp;https://cn.aliyun.com/product/hbase &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
存储 分布式计算 Hadoop
Hbase JavaAPI使用 2
Hbase JavaAPI使用
114 0
|
7月前
|
Java 分布式数据库 Maven
Hbase的javaAPI
Hbase的javaAPI
45 0
|
7月前
Hbase-JavaApi操作(2)
Hbase-JavaApi操作(2)
20 0
|
消息中间件 SQL JSON
flink kafka connector源码解读(超详细)
flink kafka connector源码解读(超详细)
356 0
|
存储 缓存 负载均衡
98 hbase原理
98 hbase原理
68 0
|
存储 分布式计算 Java
Hbase JavaAPI使用 1
Hbase JavaAPI使用
160 0
|
存储 分布式计算 安全
javaapi 访问 hbase
javaapi 访问 hbase
143 0
|
存储 缓存 NoSQL
【HBase】(5)-HBase读数据流程
【HBase】(5)-HBase读数据流程
138 0
【HBase】(5)-HBase读数据流程
|
Java 测试技术 C++
hbase2.0 vs hbase1.x 延时比较
背景 hbase2.0已经正式发布,对比之前1.x版本,2.0在读写链路上做了完善的优化,offheap、netty rpc等,这里做个小测试实验对比1.x和2.0在读写上的延时情况。本测试基于特定测试环境与软件版本得到的结果,仅供参考。
5978 0
|
分布式数据库 Apache Hbase