K8s多节点部署+负载均衡+keepalived ——囊萤映雪

本文涉及的产品
网络型负载均衡 NLB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
简介: 1、多节点master2 部署2、负载均衡部署+keepalived

1、多节点master2 部署


#从master01节点上拷贝证书文件、各master组件的配置文件和服务管理文件到master02节点
scp -r /opt/etcd/ 20.0.0.20:/opt/
scp -r /opt/kubernetes/ 20.0.0.20:/opt/
scp /usr/lib/systemd/system/{kube-apiserver,kube-controller-manager,kube-scheduler}.service root@192.168.80.14:/usr/lib/systemd/system/
#修改配置文件kube-apiserver中的IP
vim /opt/kubernetes/cfg/kube-apiserver
--bind-address=20.0.0.20    #修改
--advertise-address=20.0.0.20
#在master02节点上启动各服务并设置开机自启
systemctl enable --now kube-apiserver.service kube-controller-manager.service kube-scheduler.service
#查看node节点状态
ln -s /opt/kubernetes/bin/* /usr/local/bin/
kubectl get nodes
kubectl geet nodes -o wide  #-o wide:输出额外信息,对于pod,将输出pod所在的node名
#此时在master02节点查到的node节点状态仅是从etcd查询到的信息,而此时node节点实际上并未与master02节点建立通信连接,因此需要使用一个VIP把node节点与master节点都关联起来


2387773-20211030143840643-1884040779.png2387773-20211030143844191-609019470.png2387773-20211030143847276-2029953406.png2387773-20211030143851787-222972174.png2387773-20211030143856466-689352634.png2387773-20211030143859722-1949421717.png2387773-20211030143902683-208715883.png2387773-20211030143905854-2058694818.png


2、负载均衡部署+keepalived :


配置nginx的官方在线yum源,配置本地nginx的yum源
cat > /etc/yum.repos.d/nginx.repo << 'EOF'
[nginx]
name=nginx repo
baseurl=http://nginx.org/packages/centos/7/$basearch/
gpgcheck=0
EOF
yum install nginx -y  
修改nginx配置文件,配置四层反向代理负载均衡,指定k8s群集2台master的节点ip和6443端口
vim /etc/nginx/nginx.conf
events {
worker_connections  1024;
}
#添加
stream {
log_format  main  '$remote_addr $upstream_addr - [$time_local] $status $upstream_bytes_sent';
access_log  /var/log/nginx/k8s-access.log  main;
upstream k8s-apiserver {
    server 192.168.80.11:6443;
    server 192.168.80.14:6443;
}
server {
    listen 6443;
    proxy_pass k8s-apiserver;
}
}
http {
...... 
检查配置文件语法
nginx -t
启动nginx服务,查看已监听6443端口
systemctl enable --now nginx
netstat -natp | grep nginx
将nginx.conf传到20.0.0.90
scp /etc/nginx/nginx.conf 20.0.0.90:/etc/nginx/nginx.conf
部署keepalived服务
yum install keepalived -y
修改keepalived配置文件
vim /etc/keepalived/keepalived.conf
! Configuration File for keepalived
global_defs {
# 接收邮件地址
notification_email {
 acassen@firewall.loc
 failover@firewall.loc
 sysadmin@firewall.loc
}
# 邮件发送地址
notification_email_from Alexandre.Cassen@firewall.loc
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id NGINX_MASTER  #lb01节点的为 NGINX_MASTER,lb02节点的为 NGINX_BACKUP
}
#添加一个周期性执行的脚本
vrrp_script check_nginx {
script "/etc/nginx/check_nginx.sh"  #指定检查nginx存活的脚本路径
}
vrrp_instance VI_1 {
state MASTER            #lb01节点的为 MASTER,lb02节点的为 BACKUP
interface ens33         #指定网卡名称 ens33
virtual_router_id 51    #指定vrid,两个节点要一致
priority 100            #lb01节点的为 100,lb02节点的为 90
advert_int 1
authentication {
    auth_type PASS
    auth_pass 1111
}
virtual_ipaddress {
    192.168.80.100/24   #指定 VIP
}
track_script {
    check_nginx         #指定vrrp_script配置的脚本
}
}
创建nginx状态检查脚本
vim /etc/nginx/check_nginx.sh
#!/bin/bash
#egrep -cv "grep|$$" 用于过滤掉包含grep 或者 $$ 表示的当前Shell进程ID
count=$(ps -ef | grep nginx | egrep -cv "grep|$$")
if [ "$count" -eq 0 ];then
systemctl stop keepalived
fi
chmod +x /etc/nginx/check_nginx.sh
将keepalived.conf、check_nginx.sh传到20.0.0.90
scp check_nginx.sh keepalived.conf 20.0.0.90:`pwd`
启动keepalived服务(一定要先启动了nginx服务,再启动keepalived服务)
systemctl start keepalived
systemctl enable keepalived
ip a
修改node节点上的bootstrap.kubeconfig,kubelet.kubeconfig配置文件为VIP
cd /opt/kubernetes/cfg/
vim bootstrap.kubeconfig
server: https://20.0.0.100:6443
vim kubelet.kubeconfig
server: https://20.0.0.100:6443
vim kube-proxy.kubeconfig
server: https://20.0.0.100:6443
//重启kubelet和kube-proxy服务
systemctl restart kubelet.service
systemctl restart kube-proxy.service
创建pod测试
#master01上创建
kubectl create deploy nginx-text --image=nginx
#master02上创建
kubectl create deploy nginx-master2 --image=nginx
在对应网段的node节点上操作,可以直接使用浏览器或者curl命令访问
curl 172.17.72.2
这时在master01节点上查看nginx日志,发现没有权限查看
kubectl logs nginx-text-78cc774878-4wv7n
在master01节点上,将cluster-admin角色授予用户system:anonymous
kubectl create clusterrolebinding cluster-system-anonymous --clusterrole=cluster-admin --user=syst


2387773-20211030161412907-1336558892.png

2387773-20211030161416724-2096166860.png2387773-20211030161420177-1018236943.png2387773-20211030161423539-1102248412.png2387773-20211030161427493-735308417.png

2387773-20211030161431393-1849981195 (1).png2387773-20211030161431393-1849981195.png2387773-20211030161434418-2131299813.png2387773-20211030161437719-1016623329.png2387773-20211030161441348-1966725671.png2387773-20211030161444986-964885124.png2387773-20211030161449466-1942786649.png2387773-20211030161453199-160701844.png2387773-20211030161505713-888196959.png2387773-20211030161509157-630673847 (1).png2387773-20211030161509157-630673847.png2387773-20211030161514152-1206882764.png

2387773-20211030161517661-271718670.png2387773-20211030161520987-1276043826.png2387773-20211030161525309-1496349793.png2387773-20211030161528935-1704676566.png2387773-20211030161532799-974600279.png2387773-20211030161536401-665792807.png


相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
相关文章
|
1月前
|
弹性计算 监控 负载均衡
|
1月前
|
负载均衡 网络协议 网络安全
SLB-Backend多实例部署配置健康检查
【10月更文挑战第22天】
66 3
|
1月前
|
运维 负载均衡 算法
|
19天前
|
弹性计算 监控 负载均衡
slb部署使用路径规则进行更细粒度控制
slb部署使用路径规则进行更细粒度控制
24 7
|
19天前
|
域名解析 监控 负载均衡
slb部署虚拟主机(Virtual Hosts)
slb部署虚拟主机(Virtual Hosts)
25 5
|
20天前
|
负载均衡 网络协议 安全
slb多站点或多域名部署
slb多站点或多域名部署
28 4
|
20天前
|
Kubernetes Cloud Native 微服务
云原生入门与实践:Kubernetes的简易部署
云原生技术正改变着现代应用的开发和部署方式。本文将引导你了解云原生的基础概念,并重点介绍如何使用Kubernetes进行容器编排。我们将通过一个简易的示例来展示如何快速启动一个Kubernetes集群,并在其上运行一个简单的应用。无论你是云原生新手还是希望扩展现有知识,本文都将为你提供实用的信息和启发性的见解。
|
1月前
|
存储 缓存 监控
SLB-Backend跨区域/跨数据中心部署
【10月更文挑战第21天】
38 9
|
26天前
|
存储 Kubernetes Devops
Kubernetes集群管理和服务部署实战
Kubernetes集群管理和服务部署实战
45 0
|
16天前
|
负载均衡 前端开发 应用服务中间件
负载均衡指南:Nginx与HAProxy的配置与优化
负载均衡指南:Nginx与HAProxy的配置与优化
39 3