开发者社区> 问答> 正文

lily hbase indexer服务的indexer数量创建到200+以后,出现大量的TIME_WAIT端口

版本:
CDH5.13.3,对应hbase1.2.0
节点:
9个工作节点,3个管理节点
主要角色分配:
9个regionserver,datanode,solr server,其中3个节点是lily hbase indexer
方案:
hbase for solr,solr存储hbase的二级索引,通过lily hbase indexer做索引自动同步
问题:
当indexer数量创建到200+的时候,发现大量的TIME_WAIT端口(3万左右),regionserver日志里一直报Retrying connect to server: xx.xx.com/ipAddress:50020. Already tried 1 time(s); retry policy is RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS),把indexer删除以后,端口回复正常,hbase恢复正常
初步怀疑是此版本的hbase的多WAL与replication功能有冲突。最初配置的是3个WAL,后来修改为单个,然后重新创建出来200+的indexer,TIME_WAIT端口下降到1万左右,还是不行。

展开
收起
hbase小能手 2018-11-08 11:31:31 3133 0
2 条回答
写回答
取消 提交回答
  • 之前碰到过有人遇到大量的wal积压,原因是indexer删除某个测试索引的时候,没有删干净,导致这个关联的主表后来的wal都没有删除,大量的积压不可消费timeout。异常timeout的原因无用的索引导致的。如果自己搭建的话,建议搞清楚这个索引映射关系,按着这个链路查看timeout的源头是什么

    2019-07-17 23:12:56
    赞同 展开评论 打赏
  • HBase是一个分布式的、面向列的开源数据库,一个结构化数据的分布式存储系统。HBase不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库。阿里云HBase技术团队共同探讨HBase及其生态的问题。

    你描述的 “当indexer数量创建200+的时候” 是指定 索引个数吗?
    HBase replication有单独的队列限制,如果太多索引需要同步,可能会有一些wal排队很久才能轮到它,另外,你为什么需要同步那么多?200+表需要索引么? 网上找一下调整 replication队列什么的参数吧。
    希望对你有帮助。

    2019-07-17 23:12:56
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
大数据时代的存储 ——HBase的实践与探索 立即下载
Hbase在滴滴出行的应用场景和最佳实践 立即下载
阿里云HBase主备双活 立即下载