K8s多节点部署+负载均衡+keepalived ——囊萤映雪

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
容器服务 Serverless 版 ACK Serverless,952元额度 多规格
网络型负载均衡 NLB,每月750个小时 15LCU
简介: 1、多节点master2 部署2、负载均衡部署+keepalived

1、多节点master2 部署


#从master01节点上拷贝证书文件、各master组件的配置文件和服务管理文件到master02节点
scp -r /opt/etcd/ 20.0.0.20:/opt/
scp -r /opt/kubernetes/ 20.0.0.20:/opt/
scp /usr/lib/systemd/system/{kube-apiserver,kube-controller-manager,kube-scheduler}.service root@192.168.80.14:/usr/lib/systemd/system/
#修改配置文件kube-apiserver中的IP
vim /opt/kubernetes/cfg/kube-apiserver
--bind-address=20.0.0.20    #修改
--advertise-address=20.0.0.20
#在master02节点上启动各服务并设置开机自启
systemctl enable --now kube-apiserver.service kube-controller-manager.service kube-scheduler.service
#查看node节点状态
ln -s /opt/kubernetes/bin/* /usr/local/bin/
kubectl get nodes
kubectl geet nodes -o wide  #-o wide:输出额外信息,对于pod,将输出pod所在的node名
#此时在master02节点查到的node节点状态仅是从etcd查询到的信息,而此时node节点实际上并未与master02节点建立通信连接,因此需要使用一个VIP把node节点与master节点都关联起来


2387773-20211030143840643-1884040779.png2387773-20211030143844191-609019470.png2387773-20211030143847276-2029953406.png2387773-20211030143851787-222972174.png2387773-20211030143856466-689352634.png2387773-20211030143859722-1949421717.png2387773-20211030143902683-208715883.png2387773-20211030143905854-2058694818.png


2、负载均衡部署+keepalived :


配置nginx的官方在线yum源,配置本地nginx的yum源
cat > /etc/yum.repos.d/nginx.repo << 'EOF'
[nginx]
name=nginx repo
baseurl=http://nginx.org/packages/centos/7/$basearch/
gpgcheck=0
EOF
yum install nginx -y  
修改nginx配置文件,配置四层反向代理负载均衡,指定k8s群集2台master的节点ip和6443端口
vim /etc/nginx/nginx.conf
events {
worker_connections  1024;
}
#添加
stream {
log_format  main  '$remote_addr $upstream_addr - [$time_local] $status $upstream_bytes_sent';
access_log  /var/log/nginx/k8s-access.log  main;
upstream k8s-apiserver {
    server 192.168.80.11:6443;
    server 192.168.80.14:6443;
}
server {
    listen 6443;
    proxy_pass k8s-apiserver;
}
}
http {
...... 
检查配置文件语法
nginx -t
启动nginx服务,查看已监听6443端口
systemctl enable --now nginx
netstat -natp | grep nginx
将nginx.conf传到20.0.0.90
scp /etc/nginx/nginx.conf 20.0.0.90:/etc/nginx/nginx.conf
部署keepalived服务
yum install keepalived -y
修改keepalived配置文件
vim /etc/keepalived/keepalived.conf
! Configuration File for keepalived
global_defs {
# 接收邮件地址
notification_email {
 acassen@firewall.loc
 failover@firewall.loc
 sysadmin@firewall.loc
}
# 邮件发送地址
notification_email_from Alexandre.Cassen@firewall.loc
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id NGINX_MASTER  #lb01节点的为 NGINX_MASTER,lb02节点的为 NGINX_BACKUP
}
#添加一个周期性执行的脚本
vrrp_script check_nginx {
script "/etc/nginx/check_nginx.sh"  #指定检查nginx存活的脚本路径
}
vrrp_instance VI_1 {
state MASTER            #lb01节点的为 MASTER,lb02节点的为 BACKUP
interface ens33         #指定网卡名称 ens33
virtual_router_id 51    #指定vrid,两个节点要一致
priority 100            #lb01节点的为 100,lb02节点的为 90
advert_int 1
authentication {
    auth_type PASS
    auth_pass 1111
}
virtual_ipaddress {
    192.168.80.100/24   #指定 VIP
}
track_script {
    check_nginx         #指定vrrp_script配置的脚本
}
}
创建nginx状态检查脚本
vim /etc/nginx/check_nginx.sh
#!/bin/bash
#egrep -cv "grep|$$" 用于过滤掉包含grep 或者 $$ 表示的当前Shell进程ID
count=$(ps -ef | grep nginx | egrep -cv "grep|$$")
if [ "$count" -eq 0 ];then
systemctl stop keepalived
fi
chmod +x /etc/nginx/check_nginx.sh
将keepalived.conf、check_nginx.sh传到20.0.0.90
scp check_nginx.sh keepalived.conf 20.0.0.90:`pwd`
启动keepalived服务(一定要先启动了nginx服务,再启动keepalived服务)
systemctl start keepalived
systemctl enable keepalived
ip a
修改node节点上的bootstrap.kubeconfig,kubelet.kubeconfig配置文件为VIP
cd /opt/kubernetes/cfg/
vim bootstrap.kubeconfig
server: https://20.0.0.100:6443
vim kubelet.kubeconfig
server: https://20.0.0.100:6443
vim kube-proxy.kubeconfig
server: https://20.0.0.100:6443
//重启kubelet和kube-proxy服务
systemctl restart kubelet.service
systemctl restart kube-proxy.service
创建pod测试
#master01上创建
kubectl create deploy nginx-text --image=nginx
#master02上创建
kubectl create deploy nginx-master2 --image=nginx
在对应网段的node节点上操作,可以直接使用浏览器或者curl命令访问
curl 172.17.72.2
这时在master01节点上查看nginx日志,发现没有权限查看
kubectl logs nginx-text-78cc774878-4wv7n
在master01节点上,将cluster-admin角色授予用户system:anonymous
kubectl create clusterrolebinding cluster-system-anonymous --clusterrole=cluster-admin --user=syst


2387773-20211030161412907-1336558892.png

2387773-20211030161416724-2096166860.png2387773-20211030161420177-1018236943.png2387773-20211030161423539-1102248412.png2387773-20211030161427493-735308417.png

2387773-20211030161431393-1849981195 (1).png2387773-20211030161431393-1849981195.png2387773-20211030161434418-2131299813.png2387773-20211030161437719-1016623329.png2387773-20211030161441348-1966725671.png2387773-20211030161444986-964885124.png2387773-20211030161449466-1942786649.png2387773-20211030161453199-160701844.png2387773-20211030161505713-888196959.png2387773-20211030161509157-630673847 (1).png2387773-20211030161509157-630673847.png2387773-20211030161514152-1206882764.png

2387773-20211030161517661-271718670.png2387773-20211030161520987-1276043826.png2387773-20211030161525309-1496349793.png2387773-20211030161528935-1704676566.png2387773-20211030161532799-974600279.png2387773-20211030161536401-665792807.png


相关实践学习
容器服务Serverless版ACK Serverless 快速入门:在线魔方应用部署和监控
通过本实验,您将了解到容器服务Serverless版ACK Serverless 的基本产品能力,即可以实现快速部署一个在线魔方应用,并借助阿里云容器服务成熟的产品生态,实现在线应用的企业级监控,提升应用稳定性。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
相关文章
|
3天前
|
Kubernetes Java Docker
使用Kubernetes和Docker部署Java微服务
使用Kubernetes和Docker部署Java微服务
|
3天前
|
Kubernetes 应用服务中间件 nginx
K8s高可用集群二进制部署-V1.20
2.4 部署Etcd集群 以下在节点1上操作,为简化操作,待会将节点1生成的所有文件拷贝到节点2和节点3. 1. 创建工作目录并解压二进制包 mkdir /opt/etcd/{bin,cfg,ssl} -p tar zxvf etcd-v3.4.9-linux-amd64.tar.gz mv etcd-v3.4.9-linux-amd64/{etcd,etcdctl} /opt/etcd/bin/
|
6天前
|
Kubernetes Ubuntu Linux
k8s部署grafana beyla实现app应用服务依赖图可观测
k8s部署grafana beyla实现app应用服务依赖图可观测
16 4
|
2天前
|
前端开发 Devops 测试技术
阿里云云效产品使用问题之更换所部署的环境关联的ACK集群该如何实现
云效作为一款全面覆盖研发全生命周期管理的云端效能平台,致力于帮助企业实现高效协同、敏捷研发和持续交付。本合集收集整理了用户在使用云效过程中遇到的常见问题,问题涉及项目创建与管理、需求规划与迭代、代码托管与版本控制、自动化测试、持续集成与发布等方面。
|
3天前
|
Prometheus 监控 Kubernetes
一篇文章讲明白Kubernetes(k8s)部署Promehteus监控
一篇文章讲明白Kubernetes(k8s)部署Promehteus监控
|
3天前
|
Prometheus 监控 Kubernetes
一篇文章讲明白Kubernetes(k8s)部署Promehteus监控
一篇文章讲明白Kubernetes(k8s)部署Promehteus监控
|
3天前
|
Kubernetes Docker 容器
007.Kubernetes二进制部署Flannel
007.Kubernetes二进制部署Flannel
|
29天前
|
Kubernetes 微服务 容器
Aspire项目发布到远程k8s集群
Aspire项目发布到远程k8s集群
379 2
Aspire项目发布到远程k8s集群
|
17天前
|
Kubernetes Cloud Native 微服务
微服务实践之使用 kube-vip 搭建高可用 Kubernetes 集群
微服务实践之使用 kube-vip 搭建高可用 Kubernetes 集群
204 3
|
2天前
|
Kubernetes 网络协议 Docker
k8s 开船记-故障公告:自建 k8s 集群在阿里云上大翻船
k8s 开船记-故障公告:自建 k8s 集群在阿里云上大翻船