AI 助理
备案控制台
开发者社区 数据库 文章 正文

Kubernetes-在Kubernetes集群上搭建HBase集群

2018-08-07 3658
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
云原生网关 MSE Higress，422元/月
服务治理 MSE Sentinel/OpenSergo，Agent数量 不受限
容器服务 Serverless 版 ACK Serverless，952元额度 多规格
简介： 经过3天的努力，终于在Kubernetes上把HBase集群搭建起来了，搭建步骤如下。创建HBase镜像  配置文件包含core-site.xml、hbase-site.xml、hdfs-site.xml和yarn-site.xml，因为我这里是基于我之前搭建和zookeeper和Hadoop环境进行的，所以配置文件里面很多地方都是根据这两套环境做的，如果要搭建高可用的HBase集群，需要另外做镜像，当前镜像的配置不支持。

经过3天的努力，终于在Kubernetes上把HBase集群搭建起来了，搭建步骤如下。

创建HBase镜像

  配置文件包含core-site.xml、hbase-site.xml、hdfs-site.xml和yarn-site.xml，因为我这里是基于我之前搭建和zookeeper和Hadoop环境进行的，所以配置文件里面很多地方都是根据这两套环境做的，如果要搭建高可用的HBase集群，需要另外做镜像，当前镜像的配置不支持。

core-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://hadoop-hdfs-master:9000/</value>
  </property>
  <property>
    <name>io.compression.codecs</name>
    <value>
      org.apache.hadoop.io.compress.GzipCodec,
      org.apache.hadoop.io.compress.DefaultCodec,
      com.hadoop.compression.lzo.LzoCodec,
      com.hadoop.compression.lzo.LzopCodec,
      org.apache.hadoop.io.compress.BZip2Codec
    </value>
  </property>
  <property>
    <name>io.compression.codec.lzo.class</name>
    <value>com.hadoop.compression.lzo.LzoCodec</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-bind-host</name>
    <value>0.0.0.0</value>
  </property>
  <property>
    <name>hadoop.security.token.service.use_ip</name>
    <value>false</value>
  </property>
</configuration>
hbase-site.xml
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
  <configuration>
    <property>
        <name>hbase.cluster.distributed</name>
        <value>true</value>
    </property>
    <property>
        <name>hbase.rootdir</name>
        <value>hdfs://@HDFS_PATH@/hbase/</value>
    </property>
    <property>
        <name>hbase.zookeeper.quorum</name>
        <value>@ZOOKEEPER_IP_LIST@</value>
    </property>
    <property>
        <name>hbase.zookeeper.property.clientPort</name>
        <value>@ZOOKEEPER_PORT@</value>
    </property>
    <property>
        <name>hbase.regionserver.restart.on.zk.expire</name>
        <value>true</value>
    </property>
    <property>
        <name>hbase.client.pause</name>
        <value>50</value>
    </property>
    <property>
        <name>hbase.client.retries.number</name>
        <value>3</value>
    </property>
    <property>
        <name>hbase.rpc.timeout</name>
        <value>2000</value>
    </property>
    <property>
        <name>hbase.client.operation.timeout</name>
        <value>3000</value>
    </property>
    <property>
        <name>hbase.client.scanner.timeout.period</name>
        <value>10000</value>
    </property>
    <property>
        <name>zookeeper.session.timeout</name>
        <value>300000</value>
    </property>
    <property>
        <name>hbase.hregion.max.filesize</name>
        <value>1073741824</value>
    </property>
    <property>
        <name>fs.hdfs.impl</name>
        <value>org.apache.hadoop.hdfs.DistributedFileSystem</value>
    </property>
    <property>
        <name>hbase.client.keyvalue.maxsize</name>
        <value>1048576000</value>
    </property>
  </configuration>
hdfs-site.xml
<?xml version="1.0"?>
<configuration>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:///root/hdfs/namenode</value>
        <description>NameNode directory for namespace and transaction logs storage.</description>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:///root/hdfs/datanode</value>
        <description>DataNode directory</description>
    </property>
    <property>
  <name>dfs.namenode.datanode.registration.ip-hostname-check</name>
     <value>false</value>
  </property>
    <property>
        <name>dfs.replication</name>
        <value>2</value>
    </property>
</configuration>
yarn-site.xml
<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>hadoop-hdfs-master</value>
    </property>
    <property>
        <name>yarn.resourcemanager.bind-host</name>
        <value>0.0.0.0</value>
    </property>
</configuration>
start-kubernetes-hbase.sh
#!/bin/bash

export HBASE_CONF_FILE=/opt/hbase/conf/hbase-site.xml
export HADOOP_USER_NAME=root
export HBASE_MANAGES_ZK=false

sed -i "s/@HDFS_PATH@/$HDFS_PATH/g" $HBASE_CONF_FILE
sed -i "s/@ZOOKEEPER_IP_LIST@/$ZOOKEEPER_SERVICE_LIST/g" $HBASE_CONF_FILE
sed -i "s/@ZOOKEEPER_PORT@/$ZOOKEEPER_PORT/g" $HBASE_CONF_FILE
sed -i "s/@ZNODE_PARENT@/$ZNODE_PARENT/g" $HBASE_CONF_FILE

# set fqdn
for i in $(seq 1 10)
do
    if grep --quiet $CLUSTER_DOMAIN /etc/hosts; then
        break
    elif grep --quiet $POD_NAME /etc/hosts; then
        cat /etc/hosts | sed "s/$POD_NAME/${POD_NAME}.${POD_NAMESPACE}.svc.${CLUSTER_DOMAIN} $POD_NAME/g" > /etc/hosts.bak
        cat /etc/hosts.bak > /etc/hosts
        break
    else
        echo "waiting for /etc/hosts ready"
        sleep 1
    fi
done

if [ "$HBASE_SERVER_TYPE" = "master" ]; then
    /opt/hbase/bin/hbase master start
elif [ "$HBASE_SERVER_TYPE" = "regionserver" ]; then
    /opt/hbase/bin/hbase regionserver start
fi
Dockerfile
FROM java:8
MAINTAINER leo.lee(lis85@163.com)

ENV HBASE_VERSION 1.2.6.1
ENV HBASE_INSTALL_DIR /opt/hbase

ENV JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

RUN mkdir -p ${HBASE_INSTALL_DIR} && \
    curl -L http://mirrors.hust.edu.cn/apache/hbase/stable/hbase-${HBASE_VERSION}-bin.tar.gz | tar -xz --strip=1 -C ${HBASE_INSTALL_DIR}

RUN sed -i "s/httpredir.debian.org/mirrors.163.com/g" /etc/apt/sources.list
# build LZO
WORKDIR /tmp
RUN apt-get update && \
    apt-get install -y build-essential maven lzop liblzo2-2 && \
    wget http://www.oberhumer.com/opensource/lzo/download/lzo-2.10.tar.gz && \
    tar zxvf lzo-2.10.tar.gz && \
    cd lzo-2.10 && \
    ./configure --enable-shared --prefix /usr/local/lzo-2.10 && \
    make && make install && \
    cd .. && git clone https://github.com/twitter/hadoop-lzo.git && cd hadoop-lzo && \
    git checkout release-0.4.20 && \
    C_INCLUDE_PATH=/usr/local/lzo-2.10/include LIBRARY_PATH=/usr/local/lzo-2.10/lib mvn clean package && \
    apt-get remove -y build-essential maven && \
    apt-get clean autoclean && \
    apt-get autoremove --yes && \
    rm -rf /var/lib/{apt,dpkg,cache.log}/ && \
    cd target/native/Linux-amd64-64 && \
    tar -cBf - -C lib . | tar -xBvf - -C /tmp && \
    mkdir -p ${HBASE_INSTALL_DIR}/lib/native && \
    cp /tmp/libgplcompression* ${HBASE_INSTALL_DIR}/lib/native/ && \
    cd /tmp/hadoop-lzo && cp target/hadoop-lzo-0.4.20.jar ${HBASE_INSTALL_DIR}/lib/ && \
    echo "export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/lzo-2.10/lib" >> ${HBASE_INSTALL_DIR}/conf/hbase-env.sh && \
    rm -rf /tmp/lzo-2.10* hadoop-lzo lib libgplcompression*

ADD hbase-site.xml /opt/hbase/conf/hbase-site.xml
ADD core-site.xml /opt/hbase/conf/core-site.xml
ADD hdfs-site.xml /opt/hbase/conf/hdfs-site.xml
ADD start-kubernetes-hbase.sh /opt/hbase/bin/start-kubernetes-hbase.sh
RUN chmod +777 /opt/hbase/bin/start-kubernetes-hbase.sh

WORKDIR ${HBASE_INSTALL_DIR}
RUN echo "export HBASE_JMX_BASE=\"-Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false\"" >> conf/hbase-env.sh && \
    echo "export HBASE_MASTER_OPTS=\"\$HBASE_MASTER_OPTS \$HBASE_JMX_BASE -Dcom.sun.management.jmxremote.port=10101\"" >> conf/hbase-env.sh && \
    echo "export HBASE_REGIONSERVER_OPTS=\"\$HBASE_REGIONSERVER_OPTS \$HBASE_JMX_BASE -Dcom.sun.management.jmxremote.port=10102\"" >> conf/hbase-env.sh && \
    echo "export HBASE_THRIFT_OPTS=\"\$HBASE_THRIFT_OPTS \$HBASE_JMX_BASE -Dcom.sun.management.jmxremote.port=10103\"" >> conf/hbase-env.sh && \
    echo "export HBASE_ZOOKEEPER_OPTS=\"\$HBASE_ZOOKEEPER_OPTS \$HBASE_JMX_BASE -Dcom.sun.management.jmxremote.port=10104\"" >> conf/hbase-env.sh && \
    echo "export HBASE_REST_OPTS=\"\$HBASE_REST_OPTS \$HBASE_JMX_BASE -Dcom.sun.management.jmxremote.port=10105\"" >> conf/hbase-env.sh

ENV PATH=$PATH:/opt/hbase/bin

CMD /opt/hbase/bin/start-kubernetes-hbase.sh

把这些文件放入同一级目录，然后使用命令创建镜像

docker build -t leo/hbase:1.2.6.1 .

创建成功后通过通过命令【docker images】就可以查看到镜像了
【注意】，这里有一个坑，【start-kubernetes-hbase.sh】文件的格式，如果该文件是在Windows机器上创建的，默认的格式会是doc，如果不将格式修改为unix，就会报错【/bin/bash^M: bad interpreter: No such file or directory】，导致该脚本文件在Linux上无法运行，修改的方法很简单，使用vim命令修改文件，然后按下【ESC】，输入【:set ff=unix】，然后回车，wq保存。

编写yaml文件
hbase.yaml
apiVersion: v1
kind: Service
metadata:
  name: hbase-master
spec:
  clusterIP: None
  selector:
    app: hbase-master
  ports:
    - name: rpc
      port: 16000
    - name: http
      port: 16010
---
apiVersion: v1
kind: Pod
metadata:
  name: hbase-master
  labels:
    app: hbase-master  
spec:
  containers:
  - env:
    - name: POD_NAMESPACE
      valueFrom:
        fieldRef:
          fieldPath: metadata.namespace
    - name: POD_NAME
      valueFrom:
        fieldRef:
          fieldPath: metadata.name
    - name: HBASE_SERVER_TYPE
      value: master
    - name: HDFS_PATH
      value: hadoop-hdfs-master:9000
    - name: ZOOKEEPER_SERVICE_LIST
      value: zk-cs
    - name: ZOOKEEPER_PORT
      value: "2181"
    image: registry.docker.uih/library/leo-hbase:1.2.6.1
    imagePullPolicy: IfNotPresent
    name: hbase-master
    ports:
    - containerPort: 16000
      protocol: TCP
    - containerPort: 16010
      protocol: TCP
---
apiVersion: v1
kind: Service
metadata:
  name: hbase-region-1
spec:
  clusterIP: None
  selector:
    app: hbase-region-1
  ports:
    - name: rpc
      port: 16020
    - name: http
      port: 16030
---
apiVersion: v1
kind: Service
metadata:
  name: hbase-region-2
spec:
  clusterIP: None
  selector:
    app: hbase-region-2
  ports:
    - name: rpc
      port: 16020
    - name: http
      port: 16030
---
apiVersion: v1
kind: Service
metadata:
  name: hbase-region-3
spec:
  clusterIP: None
  selector:
    app: hbase-region-3
  ports:
    - name: rpc
      port: 16020
    - name: http
      port: 16030
---
apiVersion: v1
kind: Pod
metadata:
  labels:
    app: hbase-region-1
  name: hbase-region-1
spec:
  containers:
  - env:
    - name: POD_NAMESPACE
      valueFrom:
        fieldRef:
          fieldPath: metadata.namespace
    - name: POD_NAME
      valueFrom:
        fieldRef:
          fieldPath: metadata.name
    - name: HBASE_SERVER_TYPE
      value: regionserver
    - name: HDFS_PATH
      value: hadoop-hdfs-master:9000
    - name: ZOOKEEPER_SERVICE_LIST
      value: zk-cs
    - name: ZOOKEEPER_PORT
      value: "2181"
    image: registry.docker.uih/library/leo-hbase:1.2.6.1
    imagePullPolicy: IfNotPresent
    name: hbase-region-1
    ports:
    - containerPort: 16020
      protocol: TCP
    - containerPort: 16030
      protocol: TCP
---
apiVersion: v1
kind: Pod
metadata:
  labels:
    app: hbase-region-2
  name: hbase-region-2
spec:
  containers:
  - env:
    - name: POD_NAMESPACE
      valueFrom:
        fieldRef:
          fieldPath: metadata.namespace
    - name: POD_NAME
      valueFrom:
        fieldRef:
          fieldPath: metadata.name
    - name: HBASE_SERVER_TYPE
      value: regionserver
    - name: HDFS_PATH
      value: hadoop-hdfs-master:9000
    - name: ZOOKEEPER_SERVICE_LIST
      value: zk-cs
    - name: ZOOKEEPER_PORT
      value: "2181"
    image: registry.docker.uih/library/leo-hbase:1.2.6.1
    imagePullPolicy: IfNotPresent
    name: hbase-region-2
    ports:
    - containerPort: 16020
      protocol: TCP
    - containerPort: 16030
      protocol: TCP
---
apiVersion: v1
kind: Pod
metadata:
  labels:
    app: hbase-region-3
  name: hbase-region-3
spec:
  containers:
  - env:
    - name: POD_NAMESPACE
      valueFrom:
        fieldRef:
          fieldPath: metadata.namespace
    - name: POD_NAME
      valueFrom:
        fieldRef:
          fieldPath: metadata.name
    - name: HBASE_SERVER_TYPE
      value: regionserver
    - name: HDFS_PATH
      value: hadoop-hdfs-master:9000
    - name: ZOOKEEPER_SERVICE_LIST
      value: zk-cs
    - name: ZOOKEEPER_PORT
      value: "2181"
    image: registry.docker.uih/library/leo-hbase:1.2.6.1
    imagePullPolicy: IfNotPresent
    name: hbase-region-3
    ports:
    - containerPort: 16020
      protocol: TCP
    - containerPort: 16030
      protocol: TCP
创建服务和POD
kubectl create -f hbase.yaml
img_f9d430e449f65498b3d3d99eb5e0f8c0.png
create pods

分别查看POD和service

kubectl get po -o wide
img_b437fafe4e4a96de5b38f5e7663f5043.png
pods 
kubectl get svc -o wide
img_ac6387199054eef82430f717d2d42cfb.png
service

搭建成功！！

文章标签：
容器服务Kubernetes版
云数据库HBase版
微服务引擎
Hbase
分布式数据库
Perl
容器
网络协议
关键词：
容器服务Kubernetes版集群
云数据库HBase版集群
集群云数据库HBase版
容器服务Kubernetes版搭建
相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用，部署一个新的应用用于新的发布，并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程，本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术，这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时，本课程也会向您介绍可以采取的工具、方法和可操作步骤，以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后，您将能够： 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
statmoon
目录
相关文章
阿里云基础设施.
|
5天前
|
JSON Kubernetes 容灾
ACK One应用分发上线：高效管理多集群应用
ACK One应用分发上线，主要介绍了新能力的使用场景
阿里云基础设施.
24 9
阿里云基础设施.
|
6天前
|
Kubernetes 持续交付 开发工具
ACK One GitOps：ApplicationSet UI简化多集群GitOps应用管理
ACK One GitOps新发布了多集群应用控制台，支持管理Argo CD ApplicationSet，提升大规模应用和集群的多集群GitOps应用分发管理体验。
阿里云基础设施.
18 1
君子世无双~
|
29天前
|
Kubernetes Cloud Native 云计算
云原生之旅：Kubernetes 集群的搭建与实践
【8月更文挑战第67天】在云原生技术日益成为IT行业焦点的今天，掌握Kubernetes已成为每个软件工程师必备的技能。本文将通过浅显易懂的语言和实际代码示例，引导你从零开始搭建一个Kubernetes集群，并探索其核心概念。无论你是初学者还是希望巩固知识的开发者，这篇文章都将为你打开一扇通往云原生世界的大门。
君子世无双~
99 17
武子康
|
22天前
|
分布式计算 Hadoop Shell
Hadoop-35 HBase 集群配置和启动 3节点云服务器 集群效果测试 Shell测试
Hadoop-35 HBase 集群配置和启动 3节点云服务器 集群效果测试 Shell测试
武子康
51 4
武子康
|
22天前
|
SQL 分布式计算 Hadoop
Hadoop-37 HBase集群 JavaAPI 操作3台云服务器 POM 实现增删改查调用操作 列族信息 扫描全表
Hadoop-37 HBase集群 JavaAPI 操作3台云服务器 POM 实现增删改查调用操作 列族信息 扫描全表
武子康
27 3
武子康
|
22天前
|
分布式计算 Hadoop Shell
Hadoop-36 HBase 3节点云服务器集群 HBase Shell 增删改查 全程多图详细 列族 row key value filter
Hadoop-36 HBase 3节点云服务器集群 HBase Shell 增删改查 全程多图详细 列族 row key value filter
武子康
50 3
sunrise05
|
21天前
|
Kubernetes 应用服务中间件 nginx
搭建Kubernetes v1.31.1服务器集群，采用Calico网络技术
在阿里云服务器上部署k8s集群，一、3台k8s服务器，1个Master节点，2个工作节点，采用Calico网络技术。二、部署nginx服务到k8s集群，并验证nginx服务运行状态。
sunrise05
243 1
shiningrise
|
26天前
|
Kubernetes Cloud Native 微服务
微服务实践之使用 kube-vip 搭建高可用 Kubernetes 集群
微服务实践之使用 kube-vip 搭建高可用 Kubernetes 集群
shiningrise
78 1
shiningrise
|
26天前
|
负载均衡 应用服务中间件 nginx
基于Ubuntu-22.04安装K8s-v1.28.2实验（二）使用kube-vip实现集群VIP访问
基于Ubuntu-22.04安装K8s-v1.28.2实验（二）使用kube-vip实现集群VIP访问
shiningrise
46 1
君子世无双~
|
1月前
|
Kubernetes Cloud Native Ubuntu
云原生之旅：Kubernetes集群搭建与应用部署
【8月更文挑战第65天】本文将带你进入云原生的世界，通过一步步指导如何在本地环境中搭建Kubernetes集群，并部署一个简单的应用。我们将使用Minikube和Docker作为工具，探索云原生技术的魅力所在。无论你是初学者还是有经验的开发者，这篇文章都将为你提供有价值的信息和实践技巧。
君子世无双~
106 4

热门文章

最新文章

  • 1
    阿里巴巴NACOS（6）- 在k8s上部署Nacos
  • 2
    Kubernetes上的服务网格 Istio - 分布式追踪篇
  • 3
    基于容器平台 ACK 快速搭建 Stable Diffusion
  • 4
    阿里云携手微软与 Crossplane 社区发布 OAM Kubernetes 标准实现与核心依赖库
  • 5
    云原生时代，如何从 0 到 1 构建 K8s 容器平台的 LB（Nginx）负载均衡体系
  • 6
    Sentinel云原生K8S部署实战（上）
  • 7
    Sentry(v20.12.1) K8S云原生架构探索,玩转前/后端监控与事件日志大数据分析,高性能高可用+可扩展可伸缩集群部署
  • 8
    kubernetes HPA-超详细中文官方文档
  • 9
    如何配置Kubernetes以实现最大程度的可扩展性
  • 10
    云原生网关部署新范式丨 Higress 发布 1.1 版本，支持脱离 K8s 部署
  • 1
    Linux安装HBase的详细教程及常用方法
    580
  • 2
    Sqoop【付诸实践 01】Sqoop1最新版 MySQL与HDFS\Hive\HBase 核心导入导出案例分享+多个WRAN及Exception问题处理（一篇即可学会在日常工作中使用Sqoop）
    241
  • 3
    flink sql问题之连接HBase报错如何解决
    403
  • 4
    Flink报错问题之用flush方法写入hbase报错如何解决
    161
  • 5
    Sqoop与HBase结合使用：实现强大的数据存储
    161
  • 6
    Spark与HBase的集成与数据访问
    299
  • 7
    DataWorks中HBase Reader使用限制
    50
  • 8
    Hadoop中的HBase是什么？请解释其作用和用途。
    87
  • 9
    HBase与传统关系型数据库的区别是什么？
    256
  • 10
    HBase的性能优化有哪些方法？
    259

    • 相关课程

    更多
  • 阿里云 EMR on ACK 实战
  • 阿里云K8S微服务部署案例
  • Kubernetes极速入门
  • Serverless 容器从入门到精通: - Serverless Kubernetes
  • Kubernetes云原生管理实践
  • Kubernetes入门

    • 相关电子书

    更多
  • ACK 云原生弹性方案—云原生时代的加速器
  • ACK集群类型选择最佳实践
  • 企业运维之云原生和Kubernetes 实战

    • 相关实验场景

    更多
  • 容器服务Serverless版ACK Serverless 快速入门：在线魔方应用部署和监控
  • 使用阿里云Elasticsearch快速搭建可观测系统
  • 容器管理命令
  • 基于MSE实现K8s集群内多服务的灰度发布

    • 推荐镜像

    更多
  • kubernetes
  • pouch
  • terraform
    • 下一篇
    阿里云无影云电脑免费试用，最长可试用3个月