CentOS7下搭建ClickHouse集群

本文涉及的产品
云原生网关 MSE Higress,422元/月
注册配置 MSE Nacos/ZooKeeper,118元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: CentOS7下搭建ClickHouse集群

一、ClickHouse简单介绍


什么是ClickHouse?ClickHouse是一个用于联机分析(OLAP)的列式数据库管理系统(DBMS)。


具体概念可以参考官方文档中的介绍:https://clickhouse.tech/docs/zh/

640.jpg



二、ClickHouse特点以及业务价值


640.jpg


640.jpg

640.jpg


三、CentOS7下搭建ClickHouse集群


1、基础环境介绍


三台CentOS7.9服务器(均可以访问互联网)


node1 192.168.31.121node2 192.168.31.122node3 192.168.31.123

640.jpg

2、利用脚本搭建zookeeper+clickhouse集群


具体操作步骤


cd /opt
rz上传clickhouse.zip
unzip clickhouse.zip
#所在节点执行对应的安装脚本
#例如node1执行sh jdk_zookeeper_clickhouse_node1.sh 
sh jdk_zookeeper_clickhouse_node1.sh

640.jpg



jdk_zookeeper_clickhouse_node1.sh脚本内容如下

以node1为例

[root@node1 opt]# cat jdk_zookeeper_clickhouse_node1.sh 
#!/bin/bash
#wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo
#sed -i -e '/mirrors.cloud.aliyuncs.com/d' -e '/mirrors.aliyuncs.com/d' /etc/yum.repos.d/CentOS-Base.repo
#wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
#yum clean all
#yum makecache
echo "-----------基础环境配置----------------"
setenforce 0
sed -i 's/^SELINUX=.*$/SELINUX=disabled/' /etc/selinux/config
systemctl disable firewalld
systemctl stop firewalld
cat >> /etc/security/limits.conf << EOF
* soft nofile 65536 
* hard nofile 65536 
* soft nproc 131072 
* hard nproc 131072
EOF
cat >> /etc/security/limits.d/90-nproc.conf << EOF
* soft nofile 65536
* hard nofile 65536
* soft nproc 131072
* hard nproc 131072
EOF
cat >> /etc/hosts << EOF
192.168.31.121 node1
192.168.31.122 node2
192.168.31.123 node3
EOF
cat > /etc/yum.repos.d/clickhouse.repo << EOF
[repo.yandex.ru_clickhouse_rpm_stable_x86_64]
name=clickhouse stable
baseurl=https://mirrors.tuna.tsinghua.edu.cn/clickhouse/rpm/stable/x86_64
enabled=1
EOF
echo "-----------安装JDK----------------"
cd /opt
sleep 5
rpm -ivh jdk-8u251-linux-x64.rpm
echo "export JAVA_HOME=/usr/java/jdk1.8.0_251-amd64" >> /etc/profile
echo "export PATH=\$PATH:\$JAVA_HOME/bin" >> /etc/profile
echo "export CLASSPATH=.:\$JAVA_HOME/jre/lib:\$JAVA_HOME/lib:\$JAVA_HOME/lib/tools.jar" >> /etc/profile
echo "-----------安装zookeeper----------------"
cd /opt
tar -zxf apache-zookeeper-3.6.2-bin.tar.gz
mv apache-zookeeper-3.6.2-bin zookeeper
cd zookeeper
mkdir data
cd conf
cp zoo_sample.cfg zoo.cfg
sed -i "s#dataDir=/tmp/zookeeper#dataDir=/opt/zookeeper/data#g" zoo.cfg
echo "server.1=node1:2888:3888" >> zoo.cfg
echo "server.2=node2:2888:3888" >> zoo.cfg
echo "server.3=node3:2888:3888" >> zoo.cfg
echo 1 > /opt/zookeeper/data/myid
#echo 2 > /opt/zookeeper/data/myid
#echo 3 > /opt/zookeeper/data/myid
echo "export PATH=\$PATH:/opt/zookeeper/bin" >> /etc/profile
. /etc/profile
echo "-----------安装clickhouse---------------"
sed -i "s/gpgcheck=1/gpgcheck=0/g" /etc/yum.conf 
yum install clickhouse-server clickhouse-client -y
\cp -rf /opt/config_node1.xml /etc/clickhouse-server/config.xml
#\cp -rf /opt/config_node2.xml /etc/clickhouse-server/config.xml
#\cp -rf /opt/config_node3.xml /etc/clickhouse-server/config.xml
\cp -rf /opt/users.xml /etc/clickhouse-server/
mkdir -p /opt/clickhouse
chown -R clickhouse:clickhouse /opt/clickhouse
echo "-----------启动zookeeper---------------"
zkServer.sh start
sleep 2
zkServer.sh status
echo "-----------启动clickhouse---------------"
systemctl enable clickhouse-server 
systemctl start clickhouse-server 
systemctl status clickhouse-server 
sleep 2
echo "-----------clickhouse-client连接---------------"
clickhouse-client --user=ck --password=clickhouse2021 -m --host=node1 --port=9000
#clickhouse-client --user=ck --password=clickhouse2021 -m --host=node2 --port=9000
#clickhouse-client --user=ck --password=clickhouse2021 -m --host=node3 --port=9000


640.jpg



其中 config.xml中如下地方均做了修改 如下图所示  

--  1)、路径均修改为/opt/clickhouse目录


640.jpg


640.jpg

640.jpg

-- 2)、集群<remote_server>配置,<zookeeper>配置,以及 <macros>配置修改

640.jpg


640.jpg


其中<macros>配置不同节点配置不同,注意区分


当然我这里是三分片一副本的配置,可以根据自身实际环境进行修改  


-- 3)、监听地址修改为0.0.0.0


<listen_host>0.0.0.0</listen_host>

640.jpg



-- 4)、users.xml中添加ck用户及密码等配置


640.jpg


3、集群状态验证


在node1上


zkServer.sh status
systemctl status clickhouse-server
clickhouse-client --user=ck --password=clickhouse2021 -m --host=node1 --port=9000
:)select * from system.clusters;

640.jpg

640.jpg


可以看到 cluster_clickhouse名称的集群信息说明集群搭建成功


clickhouse集群的简单搭建就介绍到这里


公众号后台回复clickhouse获取clickhouse.zip文件(安装脚本+相关依赖文件)及《ClickHouse知识讲解PPT.pptx》


640.jpg

相关文章
|
2月前
|
消息中间件 分布式计算 关系型数据库
大数据-140 - ClickHouse 集群 表引擎详解5 - MergeTree CollapsingMergeTree 与其他数据源 HDFS MySQL
大数据-140 - ClickHouse 集群 表引擎详解5 - MergeTree CollapsingMergeTree 与其他数据源 HDFS MySQL
58 0
|
2月前
|
消息中间件 分布式计算 NoSQL
大数据-134 - ClickHouse 集群三节点 安装配置启动
大数据-134 - ClickHouse 集群三节点 安装配置启动
67 0
|
15天前
|
存储 数据采集 监控
阿里云DTS踩坑经验分享系列|SLS同步至ClickHouse集群
作为强大的日志服务引擎,SLS 积累了用户海量的数据。为了实现数据的自由流通,DTS 开发了以 SLS 为源的数据同步插件。目前,该插件已经支持将数据从 SLS 同步到 ClickHouse。通过这条高效的同步链路,客户不仅能够利用 SLS 卓越的数据采集和处理能力,还能够充分发挥 ClickHouse 在数据分析和查询性能方面的优势,帮助企业显著提高数据查询速度,同时有效降低存储成本,从而在数据驱动决策和资源优化配置上取得更大成效。
111 9
|
2月前
|
Kubernetes Ubuntu Linux
Centos7 搭建 kubernetes集群
本文介绍了如何搭建一个三节点的Kubernetes集群,包括一个主节点和两个工作节点。各节点运行CentOS 7系统,最低配置为2核CPU、2GB内存和15GB硬盘。详细步骤包括环境配置、安装Docker、关闭防火墙和SELinux、禁用交换分区、安装kubeadm、kubelet、kubectl,以及初始化Kubernetes集群和安装网络插件Calico或Flannel。
202 4
|
3月前
|
分布式计算 Hadoop Java
Hadoop集群搭建,基于3.3.4hadoop和centos8【图文教程-从零开始搭建Hadoop集群】,常见问题解决
本文是一份详细的Hadoop集群搭建指南,基于Hadoop 3.3.4版本和CentOS 8操作系统。文章内容包括虚拟机创建、网络配置、Java与Hadoop环境搭建、克隆虚拟机、SSH免密登录设置、格式化NameNode、启动Hadoop集群以及通过UI界面查看Hadoop运行状态。同时,还提供了常见问题的解决方案。
Hadoop集群搭建,基于3.3.4hadoop和centos8【图文教程-从零开始搭建Hadoop集群】,常见问题解决
|
1月前
|
存储 Prometheus 监控
构建高可用性ClickHouse集群:从理论到实践
【10月更文挑战第27天】在数据驱动的时代,构建一个稳定、高效的数据库系统对于企业的业务发展至关重要。作为一名数据工程师,我深知数据库系统的高可用性和可扩展性对于支撑企业应用的重要性。在这篇文章中,我将分享如何构建一个高可用性的ClickHouse集群,从分布式表的设计到数据复制与分片,再到故障恢复机制,确保系统在大规模数据处理中的稳定性和可靠性。
70 0
|
2月前
|
消息中间件 测试技术 Kafka
使用ClickHouse集群的7个基本技巧
使用ClickHouse集群的7个基本技巧
120 1
|
1月前
|
存储 监控 大数据
构建高可用性ClickHouse集群:从单节点到分布式
【10月更文挑战第26天】随着业务的不断增长,单一的数据存储解决方案可能无法满足日益增加的数据处理需求。在大数据时代,数据库的性能、可扩展性和稳定性成为企业关注的重点。ClickHouse 是一个用于联机分析处理(OLAP)的列式数据库管理系统(DBMS),以其卓越的查询性能和高吞吐量而闻名。本文将从我的个人角度出发,分享如何将单节点 ClickHouse 扩展为高可用性的分布式集群,以提升系统的稳定性和可靠性。
109 0
|
3月前
|
存储 Kubernetes 负载均衡
CentOS 7.9二进制部署K8S 1.28.3+集群实战
本文详细介绍了在CentOS 7.9上通过二进制方式部署Kubernetes 1.28.3+集群的全过程,包括环境准备、组件安装、证书生成、高可用配置以及网络插件部署等关键步骤。
608 3
CentOS 7.9二进制部署K8S 1.28.3+集群实战
|
2月前
|
SQL 消息中间件 分布式计算
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(一)
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(一)
93 0