聊聊 K8S:K8S集群搭建实战

简介: 聊聊 K8S:K8S集群搭建实战

一、环境准备

1.1 硬件要求

序号 硬件 硬件
1 CPU 至少2核
2 内存 至少2G
3 磁盘 至少50G

1.2 集群节点

主机名 主机IP
k8s-master01 10.211.55.15
k8s-node01 10.211.55.16
k8s-node02 10.211.55.17
k8s-node03 10.211.55.18

二、下载 centos

centos下载地址:

http://mirrors.aliyun.com/centos/7/isos/x86_64/

推荐大家使用 centos7.6 以上版本

查看 centos 系统版本命令:

cat /etc/centos-release

配置阿里云 yum 源:

# 1.下载安装wget 
yum install -y wget 
# 2.备份默认的yum 
mv /etc/yum.repos.d /etc/yum.repos.d.backup 
# 3.设置新的yum目录 
mkdir -p /etc/yum.repos.d 
# 4.下载阿里yum配置到该目录中,选择对应版本 
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo 
# 5.更新epel源为阿里云epel源 
mv /etc/yum.repos.d/epel.repo /etc/yum.repos.d/epel.repo.backup 
mv /etc/yum.repos.d/epel-testing.repo /etc/yum.repos.d/epel- testing.repo.backup
wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel- 7.repo
# 6.重建缓存 
yum clean all yum makecache 
# 7.看一下yum仓库有多少包 
yum repolist 
yum update

升级系统内核

rpm -Uvh http://www.elrepo.org/elrepo-release-7.0-3.el7.elrepo.noarch.rpm 
yum --enablerepo=elrepo-kernel install -y kernel-lt 
grep initrd16 /boot/grub2/grub.cfg 
grub2-set-default 0
reboot

查看centos系统内核命令:

uname -r 
uname -a

查看CPU命令:

lscpu

查看内存命令:

free 
free -h

查看硬盘信息:

fdisk -l

三、centos7 系统配置

3.1 关闭防火墙

systemctl stop firewalld 
systemctl disable firewalld

3.2 关闭 selinux

sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/sysconfig/selinux
setenforce 0

3.3 网桥过滤

vi /etc/sysctl.conf 
net.bridge.bridge-nf-call-ip6tables = 1 
net.bridge.bridge-nf-call-iptables = 1 
net.bridge.bridge-nf-call-arptables = 1 
net.ipv4.ip_forward=1 net.ipv4.ip_forward_use_pmtu = 0 
# 生效命令 
sysctl --system
# 查看效果 
sysctl -a|grep "ip_forward"

3.4 开启 IPVS

# 安装IPVS 
yum -y install ipset ipvsdm
# 编译ipvs.modules文件
vi /etc/sysconfig/modules/ipvs.modules
# 文件内容如下
#!/bin/bash 
modprobe -- ip_vs 
modprobe -- ip_vs_rr 
modprobe -- ip_vs_wrr 
modprobe -- ip_vs_sh 
modprobe -- nf_conntrack_ipv4
# 赋予权限并执行 
chmod 755 /etc/sysconfig/modules/ipvs.modules && bash /etc/sysconfig/modules/ipvs.modules &&lsmod | grep -e ip_vs -e nf_conntrack_ipv4
# 重启电脑,检查是否生效
reboot 
lsmod | grep ip_vs_rr

3.5 同步时间

# 安装软件
yum -y install ntpdate
# 向阿里云服务器同步时间
ntpdate time1.aliyun.com
# 删除本地时间并设置时区为上海
rm -rf /etc/localtime 
ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
# 查看时间 
date -R || date

3.6 命令补全

# 安装bash-completion 
yum -y install bash-completion bash-completion-extras 
# 使用bash-completion 
source /etc/profile.d/bash_completion.sh

3.7 关闭 swap 分区

# 临时关闭
swapoff -a
# 永久关闭
vi /etc/fstab
# 将文件中的/dev/mapper/centos-swap这行代码注释掉
# /dev/mapper/centos-swap swap swap defaults 0 0
# 确认swap已经关闭:若swap行都显示 0 则表示关闭成功
free -m

3.8 hosts 配置

vi /etc/hosts
# 文件内容如下: 
10.211.55.15 k8s-master01 
10.211.55.16 k8s-node01 
10.211.55.17 k8s-node02 
10.211.55.18 k8s-node03

四、安装 docker

4.1 阿里云开发者平台

开发者平台官网地址:可以参考阿里云官网提供的docker安装教程进行安装。

https://www.aliyun.com/

4.2 安装 docker 前置条件

yum install -y yum-utils device-mapper-persistent-data lvm2

4.3 添加源

yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo 
yum makecache fast

4.4 查看 docker 更新版本

yum list docker-ce --showduplicates | sort -r

4.5 安装 docker 最新版本

yum -y install docker-ce
# 安装指定版本: 
yum -y install docker-ce-18.09.8

4.6 开启 docker 服务

systemctl start docker
systemctl status docker

4.7 安装阿里云镜像加速器

tee /etc/docker/daemon.json <<-'EOF' 
{ 
    "registry-mirrors": ["自己的阿里云镜像加速地址"] 
}
EOF
systemctl daemon-reload 
systemctl restart docker

4.8 设置 docker 开机启动服务

systemctl enable docker

4.9 修改 Cgroup Driver

# 修改daemon.json,新增:
vi /etc/docker/daemon.json
"exec-opts": ["native.cgroupdriver=systemd"]
# 重启docker服务
systemctl daemon-reload
systemctl restart docker
# 查看修改后状态
docker info | grep Cgroup

修改cgroupdriver是为了消除安装k8s集群时的告警:

[WARNING IsDockerSystemdCheck]:

detected “cgroupfs” as the Docker cgroup driver. The recommended driver is “systemd”.

Please follow the guide at https://kubernetes.io/docs/setup/cri/……

4.10 复习 docker 常用命令

docker -v 
docker version 
docker info

五、使用 kubeadm 快速安装

软件 kubeadm kubelet kubectl docker-ce
版本 初始化集群管理集群,版本:1.17.5 用于接收api-server指令,对pod生命周期进行管理,版本:1.17.5 集群命令行管理工具,版本:1.17.5 推荐使用版本:19.03.8

5.1 安装 yum 源

5.1.1 新建 repo 文件

vi /etc/yum.repos.d/kubernetes.repo

5.1.2 文件内容

[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=1
repo_gpgcheck=1
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg
       https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg

如果有报错,则把 gpgcheck、repo_gpgcheck 的值设置成0。

5.1.3 更新缓存

yum clean all 
yum -y makecache

5.1.4 验证源是否可用

yum list | grep kubeadm 
# 如果提示要验证yum-key.gpg是否可用,输入y。 
# 查找到kubeadm。显示版本

5.1.5 查看 k8s 版本

yum list kubelet --showduplicates | sort -r

5.1.6 安装 k8s-1.17.5

yum install -y kubelet-1.17.5 kubeadm-1.17.5 kubectl-1.17.5

5.2 设置 kubelet

5.2.1 增加配置信息

# 如果不配置kubelet,可能会导致K8S集群无法启动。为实现docker使用的cgroupdriver与kubelet 使用的cgroup的一致性。
vi /etc/sysconfig/kubelet 
KUBELET_EXTRA_ARGS="--cgroup-driver=systemd"

5.2.2 设置开机启动

systemctl enable kubelet

5.3 初始化镜像

如果是第一次安装k8s,手里没有备份好的镜像,可以执行如下操作。

5.3.1 查看安装集群需要的镜像

kubeadm config images list

5.3.2 编写执行脚本

mkdir -p /data
cd /data 
vi k8s.1.17.5-images.sh
images=( 
    kube-apiserver:v1.17.5 
    kube-controller-manager:v1.17.5 
    kube-scheduler:v1.17.5 
    kube-proxy:v1.17.5 
    pause:3.1 
    etcd:3.4.3-0 
    coredns:1.6.5 
)
for imageName in ${images[@]};
do
    docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName
    docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName k8s.gcr.io/$imageName
    docker rmi registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName
done

5.3.3 执行脚本

cd /data 
# 给脚本授权 
chmod +x images.sh
# 执行脚本 
./k8s.1.17.5-images.sh

5.3.4 保存镜像

docker save -o k8s.1.17.5.tar \ 
k8s.gcr.io/kube-proxy:v1.17.5 \ 
k8s.gcr.io/kube-apiserver:v1.17.5 \ 
k8s.gcr.io/kube-controller-manager:v1.17.5 \ 
k8s.gcr.io/kube-scheduler:v1.17.5 \ 
k8s.gcr.io/coredns:1.6.5 \ 
k8s.gcr.io/etcd:3.4.3-0 \ 
k8s.gcr.io/pause:3.1 \

5.3.5 导入镜像

导入master节点镜像tar包

# master节点需要全部镜像 
docker load -i k8s.1.17.5.tar

导入node节点镜像tar包

# node节点需要kube-proxy:v1.17.5和pause:3.1,2个镜像 
docker load -i k8s.1.17.5.node.tar

5.4 初始化集群

配置k8s集群网络

5.4.1 calico 官网地址

# 官网下载地址: 
https://docs.projectcalico.org/v3.14/manifests/calico.yaml 
# github地址: 
https://github.com/projectcalico/calico 
# 镜像下载: 
docker pull calico/cni:v3.14.2 
docker pull calico/pod2daemon-flexvol:v3.14.2 
docker pull calico/node:v3.14.2 
docker pull calico/kube-controllers:v3.14.2
# 配置hostname: 
hostnamectl set-hostname k8s-master01



需要这么多镜像


5.4.2 初始化集群信息:calico网络

kubeadm init --apiserver-advertise-address=192.168.198.156 --kubernetes- version v1.17.5 --service-cidr=10.1.0.0/16 --pod-network-cidr=10.81.0.0/16

192.168.198.156 替换成你主节点的IP地址。

5.4.3 执行配置命令

mkdir -p $HOME/.kube 
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config 
sudo chown $(id -u):$(id -g) $HOME/.kube/config

5.4.4 node节点加入集群信息

kubeadm join 192.168.198.186:6443 --token kksfgq.b9bhf82y35ufw4np \ 
    --discovery-token-ca-cert-hash sha256:e1e347e6db1db5c13fcdc2c7d51a2f9029100a4cc13c2d89a2dbfa5077f5b07f

5.4.5 kubectl命令自动补全

echo "source <(kubectl completion bash)" >> ~/.bash_profile 
source ~/.bash_profile

5.4.6 测试 k8s 集群环境

kubectl get nodes



发现集群的节点都是 NotReady 的状态,这是因为你还没有应用 calico 网络的配置。

kubectl apply -f calico.yml



执行完后,发现整个 k8s 集群环境是正常的了,至此,k8s 集群搭建实战完成。



Java

相关实践学习
深入解析Docker容器化技术
Docker是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器上,也可以实现虚拟化,容器是完全使用沙箱机制,相互之间不会有任何接口。Docker是世界领先的软件容器平台。开发人员利用Docker可以消除协作编码时“在我的机器上可正常工作”的问题。运维人员利用Docker可以在隔离容器中并行运行和管理应用,获得更好的计算密度。企业利用Docker可以构建敏捷的软件交付管道,以更快的速度、更高的安全性和可靠的信誉为Linux和Windows Server应用发布新功能。 在本套课程中,我们将全面的讲解Docker技术栈,从环境安装到容器、镜像操作以及生产环境如何部署开发的微服务应用。本课程由黑马程序员提供。 &nbsp; &nbsp; 相关的阿里云产品:容器服务 ACK 容器服务 Kubernetes 版(简称 ACK)提供高性能可伸缩的容器应用管理能力,支持企业级容器化应用的全生命周期管理。整合阿里云虚拟化、存储、网络和安全能力,打造云端最佳容器化应用运行环境。 了解产品详情: https://www.aliyun.com/product/kubernetes
相关文章
|
24天前
|
人工智能 算法 调度
阿里云ACK托管集群Pro版共享GPU调度操作指南
本文介绍在阿里云ACK托管集群Pro版中,如何通过共享GPU调度实现显存与算力的精细化分配,涵盖前提条件、使用限制、节点池配置及任务部署全流程,提升GPU资源利用率,适用于AI训练与推理场景。
155 1
|
1月前
|
弹性计算 监控 调度
ACK One 注册集群云端节点池升级:IDC 集群一键接入云端 GPU 算力,接入效率提升 80%
ACK One注册集群节点池实现“一键接入”,免去手动编写脚本与GPU驱动安装,支持自动扩缩容与多场景调度,大幅提升K8s集群管理效率。
202 89
|
6月前
|
资源调度 Kubernetes 调度
从单集群到多集群的快速无损转型:ACK One 多集群应用分发
ACK One 的多集群应用分发,可以最小成本地结合您已有的单集群 CD 系统,无需对原先应用资源 YAML 进行修改,即可快速构建成多集群的 CD 系统,并同时获得强大的多集群资源调度和分发的能力。
249 9
|
6月前
|
资源调度 Kubernetes 调度
从单集群到多集群的快速无损转型:ACK One 多集群应用分发
本文介绍如何利用阿里云的分布式云容器平台ACK One的多集群应用分发功能,结合云效CD能力,快速将单集群CD系统升级为多集群CD系统。通过增加分发策略(PropagationPolicy)和差异化策略(OverridePolicy),并修改单集群kubeconfig为舰队kubeconfig,可实现无损改造。该方案具备多地域多集群智能资源调度、重调度及故障迁移等能力,帮助用户提升业务效率与可靠性。
|
8月前
|
存储 Kubernetes 监控
K8s集群实战:使用kubeadm和kuboard部署Kubernetes集群
总之,使用kubeadm和kuboard部署K8s集群就像回归童年一样,简单又有趣。不要忘记,技术是为人服务的,用K8s集群操控云端资源,我们不过是想在复杂的世界找寻简单。尽管部署过程可能遇到困难,但朝着简化复杂的目标,我们就能找到意义和乐趣。希望你也能利用这些工具,找到你的乐趣,满足你的需求。
775 33
|
8月前
|
Kubernetes 开发者 Docker
集群部署:使用Rancher部署Kubernetes集群。
以上就是使用 Rancher 部署 Kubernetes 集群的流程。使用 Rancher 和 Kubernetes,开发者可以受益于灵活性和可扩展性,允许他们在多种环境中运行多种应用,同时利用自动化工具使工作负载更加高效。
440 19
|
8月前
|
人工智能 分布式计算 调度
打破资源边界、告别资源浪费:ACK One 多集群Spark和AI作业调度
ACK One多集群Spark作业调度,可以帮助您在不影响集群中正在运行的在线业务的前提下,打破资源边界,根据各集群实际剩余资源来进行调度,最大化您多集群中闲置资源的利用率。
|
9月前
|
人工智能 Kubernetes 异构计算
大道至简-基于ACK的Deepseek满血版分布式推理部署实战
大道至简-基于ACK的Deepseek满血版分布式推理部署实战
502 5
|
8月前
|
Prometheus Kubernetes 监控
OpenAI故障复盘丨如何保障大规模K8s集群稳定性
OpenAI故障复盘丨如何保障大规模K8s集群稳定性
276 0
OpenAI故障复盘丨如何保障大规模K8s集群稳定性
|
9月前
|
运维 分布式计算 Kubernetes
ACK One多集群Service帮助大批量应用跨集群无缝迁移
ACK One多集群Service可以帮助您,在无需关注服务间的依赖,和最小化迁移风险的前提下,完成跨集群无缝迁移大批量应用。

热门文章

最新文章

推荐镜像

更多