软件链接
1、环境准备
准备3台虚拟机。1台 master,其余的做node.
(1)修改主机名
hostnamectl set-hostname master1 #master1执行
hostnamectl set-hostname node1 #node1执行
hostnamectl set-hostname node2#node2执行
(2)hosts解析
在所有节点/etc/hosts中添加解析,master1,node1,node2
10.10.0.216 matser1
10.10.0.215 node1
10.10.0.214 node2
(3)关闭所有节点的seliux
sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/config
setenforce 0
(4)关闭所有节点的firewalld
systemctl disable firewalld
systemctl stop firewalld
(5)进程及文件句柄参数
修改/etc/security/limits.conf 配制文件,加大打开文件句柄数(weblogic应用使用到)
vi /etc/security/limits.conf
* hard nofile 102400
* soft nofile 102400
* hard nproc 2067531
* soft nproc 2067531
修改完后,exit退出,重新登录,用ulimit -a 命令查看一下open files、max user processes的值。
(6)用户进程参数优化
修改/etc/security/limits.d/90-nproc.conf配制文件,加大用户进程数(max user processes)。
vi /etc/security/limits.d/20-nproc.conf
* soft nproc 2067531
* hard nproc 2067531
2、安装docker
(1)使用文件docker-packages.tar,每个节点都要安装。
tar -xvf docker-packages.tar
cd docker-packages
rm -rf audit-* libsemanage*
rm -rf policycoreutils-*
yum install audit-libs-python
yum install libsemanage-python
yum install local *.rpm 进行安装
#安装完成查看版本
docker version
(2)启动docker,并设置为开机自启
systemctl start docker && systemctl enable docker
输入docker info,==记录Cgroup Driver==
Cgroup Driver: cgroupfs
docker和kubelet的cgroup driver需要一致,如果docker不是cgroupfs,则执行
cat << EOF > /etc/docker/daemon.json
{
"exec-opts": ["native.cgroupdriver=cgroupfs"]
}
EOF
systemctl daemon-reload && systemctl restart docker
(3)安装kubeadm,kubectl,kubelet
使用文件kube-packages-1.10.1.tar,每个节点都要安装
kubeadm是集群部署工具
kubectl是集群管理工具,通过command来管理集群
kubelet的k8s集群每个节点的docker管理服务
tar -xvf kube-packages-1.10.1.tar
cd kube-packages-1.10.1
yum install local *.rpm 进行安装
在所有kubernetes节点上设置kubelet使用cgroupfs,与dockerd保持一致,否则kubelet会启动报错
默认kubelet使用的cgroup-driver=systemd,改为cgroup-driver=cgroupfs
sed -i "s/cgroup-driver=systemd/cgroup-driver=cgroupfs/g" /etc/systemd/system/kubelet.service.d/10-kubeadm.conf
重设kubelet服务,并重启kubelet服务
systemctl daemon-reload && systemctl restart kubelet
(4)关闭swap,及修改iptables,不然后面kubeadm会报错
swapoff -a
vi /etc/fstab #swap一行注释
cat <<EOF > /etc/sysctl.d/k8s.conf
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF
sysctl --system
(5)导入镜像
使用文件k8s-images-1.10.tar.gz,每个节点都要执行
节点较少,就不搭建镜像仓库服务了,后续要用的应用镜像,每个节点都要导入
docker load -i k8s-images-1.10.tar.gz
3、kubeadm init 部署master节点
只在master执行。此处选用最简单快捷的部署方案。etcd、api、controller-manager、 scheduler服务都会以容器的方式运行在master。etcd 为单点,不带证书。etcd的数据会挂载到master节点/var/lib/etcd
init部署是支持etcd 集群和证书模式的,配置方法见我1.9的文档,此处略过。
(1)Init部署master
init命令注意要指定版本,和pod范围
kubeadm init --kubernetes-version=v1.10.1 --pod-network-cidr=10.244.0.0/16
(2)保存kubeconfig
执行提示的命令,保存kubeconfig
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config
(3)查看node
此时执行kubectl get node 已经可以看到master节点,notready是因为还未部署网络插件
[root@master1 kubernetes1.10]# kubectl get node
(4)查看所有的pod
查看所有的pod,kubectl get pod --all-namespaces
kubedns也依赖于容器网络,此时pending是正常的
配置KUBECONFIG变量
echo "export KUBECONFIG=/etc/kubernetes/admin.conf" >> /etc/profile
source /etc/profile
echo $KUBECONFIG #应该返回/etc/kubernetes/admin.conf
4、部署flannel网络
k8s支持多种网络方案,flannel,calico,openvswitch
此处选择flannel。在熟悉了k8s部署后,可以尝试其他网络方案,我另外一篇1.9部署中有介绍flannel和calico的方案,以及切换时需要的动作。
kubectl apply -f kube-flannel.yml
网络就绪后,节点的状态会变为ready
[root@master1 kubernetes1.10]# kubectl get node
NAME STATUS ROLES AGE VERSION
master1 Ready master 18m v1.10.1
kubeadm join 加入node节点
(1)node节点加入集群
使用之前kubeadm init 生产的join命令,加入成功后,回到master节点查看是否成功
sudo kubeadm join 192.168.59.137:6443 --token rm741h.6qw710l74gjf3ezf --discovery-token-ca-cert-hash sha256:ccdf24da7396f55bcf2d89ba4ba13a2834db4253584700a7dc0576bf18daf2bb --ignore-preflight-errors=‘swap‘ --ignore-preflight-errors=‘cri‘
[root@master1 kubernetes1.10]# kubectl get node
(2)如果忘了join命令,加入节点方法
若node已经成功加入,忽略这一步。
使用场景:忘了保存上面kubeadm init生产的join命令,可按照下面的方法加入node节点。
首先master节点获取token,如果token list内容为空,则kubeadm token create创建一个,记录下token数据
[root@master1 kubernetes1.10]# kubeadm token list
部署k8s ui界面,dashboard
(3)dashboard是官方的k8s 管理界面,可以查看应用信息及发布应用。dashboard的语言是根据浏览器的语言自己识别的
官方默认的dashboard为https方式,如果用chrome访问会拒绝。本次部署做了修改,方便使用,使用了http方式,用chrome访问正常。
一共需要导入3个yaml文件
kubectl apply -f kubernetes-dashboard-http.yaml
kubectl apply -f admin-role.yaml
kubectl apply -f kubernetes-dashboard-admin.rbac.yaml
创建完成后,通过 http://任意节点的IP:31000即可访问ui
FAQ
重置kubernetes服务,重置网络。删除网络配置,link
kubeadm reset
systemctl stop kubelet
systemctl stop docker
rm -rf /var/lib/cni/
rm -rf /var/lib/kubelet/*
rm -rf /etc/cni/
ifconfig cni0 down
ifconfig flannel.1 down
ifconfig docker0 down
ip link delete cni0
ip link delete flannel.1
systemctl start docker