LVS负载均衡群集——DR直接路由模式(上)

本文涉及的产品
应用型负载均衡 ALB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
简介: 一、 LVS-DR 工作原理1.1 LVS-DR数据包流向分析(1)客户端发送请求到Director Server (负载均衡器),请求的数据报文(源IP是CIP,目标IP是VIP)到达内核空间。

一、 LVS-DR 工作原理


1.1 LVS-DR数据包流向分析

(1)客户端发送请求到Director Server (负载均衡器),请求的数据报文(源IP是CIP,目标IP是VIP)到达内核空间。

(2)Director Server 和Real Server 在同一个网络中,数据通过二层数据链路层来传输。

(3)内核空间判断数据包的目标IP是本机VIP,此时IPVS(IP虛拟服务器)比对数据包请求的服务是否是集群服务,是集群服务就重新封装数据包修改源MAC地址为Director server 的MAC地址,修改目标MAC地址为Real Server 的MAC 地址,源IP 地址与目标IP地址没有改变,然后将数据包发送给Real Server。

(4)到达Real server 的请求报文的MAC地址是自身的MAC地址,就接收此报文。数据包重新封装报文(源IP地址为VIP,目标IP为CIP),将响应报文通过lo接口传送给物理网卡然后向外发出。

(5)Real Server 直接将响应报文传送到客户端。客户端收到回复报文,认为得到正常的服务,而不会知道是哪一台服务器处理的。

注意:如果跨网段,则报文通过路由器经由Internet返回给用户。


1.2 DR模式的特点

(1)Director Server(调度器) 和 Real Server(节点服务器) 必须在同一个物理网络中。

(2)Real Server可以使用私有地址,也可以使用公网地址。如果使用公网地址,可以通过互联网对RIP进行直接访问。

(3)Director Server作为群集的访问入口,但不作为网关使用。

(4)所有的请求报文经由Director Server, 但回复响应报文不能经过Director Server。

(5) Real Server 的网关不允许指向Director Server IP, 即Real Server发送的数据包不允许经过Director Server。(RS的网关地址只能指定真实的路由器网关)

(6) Real Server 上的 lo 接口配置VIP的IP地址。

网络异常,图片无法展示
|


二、LVS-DR中的ARP问题


2.1 问题一:VIP地址相同导致响应冲突

问题原因:

在LVS-DR负载均衡集群中,负载均衡器与节点服务器都要配置相同的VIP地址,在局域网中具有相同的IP地 址,势必会造成各服务器ARP通信的紊乱。

  • 当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会收到ARP广播。
  • 只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播。

解决方法:

对节点服务器进行处理,使其不响应针对VIP的ARP请求

  • 使用虚接口lo:0承载VIP地址
  • 设置内核参数 arp_ ignore=1:系统只响应目的IP为本地IP(物理网卡的地址,而不是lo网卡的虚接口地址)的ARP请求。


2.2 问题二:返回报文时源地址使用VIP,导致网关设备的ARP缓存表紊乱

网络异常,图片无法展示
|


问题原因:

  • RealServer返回报文(源IP是VIP)经路由器转发,重新封装报文时,需要先获取路由器的MAC地址。
  • 发送ARP请求时,Linux默认使用IP包的源IP地址(即VIP)作为ARP请求包中的源IP地址,而不使用发送接口的IP地址。
  • 路由器收到ARP请求后,将更新ARP表项。原有的VIP对应Director的MAC地址,会被更新为VIP对应的Real Server的MAC地址。导致网关设备的ARP缓存表紊乱。
  • 路由器根据ARP表项,会将新来的请求报文转发给Real Server,导致Director的VIP失效。

解决方法:

对节点服务器进行处理,设置内核参数arp_announce=2:系统不使用IP数据包的源地址来设置ARP请求的源地址,而选择发送接口(物理网卡)的IP地址。

2.3 解决ARP的两个问题的设置方法

修改/etc/sysctl.conf 文件,调整内核的ARP响应参数。

vim /etc/sysctl.conf     //添加以下四行参数
 net.ipv4.conf.lo.arp_ignore = 1  
 net.ipv4.conf.lo.arp_announce = 2
 net.ipv4.conf.all.arp_ignore = 1
 net.ipv4.conf.all.arp_announce = 2
 sysctl -p  //刷新配置,读取修改后的配置
 #arp_ignore=1 :使本机系统只响应目的IP为本地物理网卡IP的ARP请求。
 #arp_announce=2:使本机系统不使用即将返回的IP数据包的源地址来作为ARP请求报文的源地址,而采用发送接口(物理网卡)的IP作为ARP请求报文源地址。
复制代码


三、LVS-DR 负载均衡群集的部署


实验环境:

DR服务器:192.168.72.10/24

两台WEB服务器:192.168.72.30/24,192.168.72.40/24

VIP:192.168.72.200/32

NFS服务器:192.168.72.192/24

客户端:192.168.72.77/24

实验拓扑:

网络异常,图片无法展示
|


3.1 部署共享服务(NFS服务器:192.168.72.192)

NFS服务器的具体部署过程在上一篇文章中有详细步骤,可查看上一篇文章(LVS负载均衡群集——NAT模式实操 - 掘金 (juejin.cn)),这里不再赘述。

#1、关闭防火墙
 [root@nfs ~]# systemctl disable --now firewalld
 [root@nfs ~]# setenforce 0
 #2、安装nfs-utils、rpcbind软件包
 [root@nfs ~]# yum install nfs-utils rpcbind -y
 #3、新建共享目录,并创建站点文件
 [root@nfs ~]# mkdir /share/
 [root@nfs ~]# cd /share/
 [root@nfs share]# mkdir tt nn
 [root@nfs share]# echo "tt is a girl" > tt/index.html
 [root@nfs share]# echo "nn is a boy" > nn/index.html
 #4、修改共享配置文件,设置共享策略
 [root@nfs share]# pwd
  /share
 [root@nfs share]# vim /etc/exports   //设置共享策略
 /share/tt  192.168.72.0/24
 /share/nn  192.168.72.0/24
 #5、启动两个服务,查看本机的NFS共享目录
 [root@nfs share]# systemctl start rpcbind
 [root@nfs share]# systemctl start nfs
 [root@nfs share]# showmount -e         //查看本机发布的NFS共享目录
复制代码


3.2 部署Web节点服务器

第一台web节点服务器(192.168.72.30/24),VIP:192.168.72.200/32

#1、关闭防火墙
 [root@web1 ~]# systemctl stop firewalld
 [root@web1 ~]# setenforce 0
 #2、安装httpd,开启服务
 [root@web1 ~]# mount /dev/sr0 /mnt      //挂载光盘
 mount: /dev/sr0 写保护,将以只读方式挂载
 [root@web1 ~]# yum install httpd -y     //安装httpd服务
 [root@web1 ~]# systemctl start httpd    //开启httpd服务
 #3、配置虚拟IP地址(VIP:192.168.72.200),添加虚接口lo:0。
 #此地址仅用作发送We响应数据包的源地址,并不需要监听客户机的访问请求(改由调度器监听并分发)。
 #因此使用虚接口lo:0来承载VIP地址,并为本机添加一条路由记录,将访问VIP的数据限制在本地,以避免通信紊乱。
 [root@web1 ~]# cd /etc/sysconfig/network-scripts/
 [root@web1 network-scripts]# cp ifcfg-lo ifcfg-lo:0
 [root@web1 network-scripts]# vim ifcfg-lo:0  //设置虚接口lo:0
 DEVICE=lo:0
 IPADDR=192.168.72.200
 NETMASK=255.255.255.255     //子网掩码必须全为1(即32个1)
 ONBOOT=yes
 [root@web1 network-scripts]# ifup lo:0         //启动虚接口
 [root@web1 network-scripts]# ifconfig lo:0     //查看虚接口的信息
 #4、添加静态路由信息,dev指定出站网卡
 [root@web1 ~]# route add -host 192.168.72.200 dev lo:0  
 [root@web1 ~]# route -n  //以数字形式显示路由信息
 #可以将添加路由的命令写入开机自启配置文件中,每次开机后自动执行
 [root@web1 ~]# vim /etc/rc.local
 /sbin/route add -host 192.168.72.200 dev lo:0
 [root@web1 ~]# chmod +x /etc/rc.d/rc.local
 #5、调整内核的ARP响应参数
 #arp_ignore=1,使本机只响应目的IP为本地物理网卡IP的ARP请求。
 #arp_announce=2,使本机系统采用发送接口的IP作为ARP请求报文源地址。
 [root@web1 ~]# vim /etc/sysctl.conf
 net.ipv4.conf.lo.arp_ignore = 1  
 net.ipv4.conf.lo.arp_announce = 2
 net.ipv4.conf.all.arp_ignore = 1
 net.ipv4.conf.all.arp_announce = 2
 [root@web1 ~]# sysctl -p  //刷新配置,读取修改后的配置
 #6、挂载站点。将NFS服务器的共享目录,挂载到httpd服务的根目录
 [root@web1 ~]# showmount -e 192.168.72.192    //查看NFS服务器的共享信息
 [root@web1 ~]# mount 192.168.72.192:/share/tt/ /var/www/html
 [root@web1 ~]# df       //查看挂载是否成功
 [root@web1 ~]# cat /var/www/html/index.html
  tt is a girl
复制代码


网络异常,图片无法展示
|


网络异常,图片无法展示
|


网络异常,图片无法展示
|


网络异常,图片无法展示
|


网络异常,图片无法展示
|


网络异常,图片无法展示
|


网络异常,图片无法展示
|


网络异常,图片无法展示
|


相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
7月前
|
负载均衡 网络协议 算法
LVS 负载均衡部署的三种模式 与搭建dr模式具体步骤
LVS 负载均衡部署的三种模式 与搭建dr模式具体步骤
|
4月前
|
负载均衡 网络协议 Linux
在Linux中, LVS三种模式的工作过程是什么?
在Linux中, LVS三种模式的工作过程是什么?
|
5月前
|
负载均衡 Java Spring
Spring cloud gateway 如何在路由时进行负载均衡
Spring cloud gateway 如何在路由时进行负载均衡
597 15
|
4月前
|
负载均衡 监控 网络协议
在Linux中,LVS-DR模式原理是什么?
在Linux中,LVS-DR模式原理是什么?
|
4月前
|
负载均衡 算法 Linux
在Linux中,LVS-NAT模式的原理是什么?
在Linux中,LVS-NAT模式的原理是什么?
|
6月前
|
负载均衡 运维 监控
负载均衡与容错性:集群模式在分布式系统中的应用
本文由小米分享,解释了分布式系统中的集群模式。集群模式是通过组合多个服务器节点,共同提供服务,实现高可用性、负载均衡和扩展性。文章介绍了主控节点的角色及其高可用性策略,如主备模式和选举机制,并以Zookeeper为例详细阐述了其工作机制。集群模式的优势在于高可用性、负载均衡、扩展性和数据一致性,但也面临节点通信、数据一致性、故障检测和管理等挑战。最后,作者鼓励读者讨论和交流相关技术问题。
292 5
|
负载均衡 应用服务中间件 Linux
Nginx系列教程(14) - LVS+KeepAlived+Nginx实现高性能负载均衡集群
Nginx系列教程(14) - LVS+KeepAlived+Nginx实现高性能负载均衡集群
1373 0
|
3天前
|
负载均衡 算法 Linux
LVS+Keepalived:实现高效软负载均衡的利器
本文介绍了如何使用LVS(Linux Virtual Server)和Keepalived搭建高可用负载均衡集群。LVS通过不同调度算法将请求转发给后端服务器,而Keepalived基于VRRP协议实现服务高可用,避免IP单点故障。具体步骤包括环境准备、安装配置ipvsadm和Keepalived、启动服务及测试。文中还详细解释了配置文件中的关键参数,并提供了故障转移测试方法。最后,文章简要对比了软件、硬件和云负载均衡方案的特点,帮助读者选择合适的负载均衡策略。
48 4
|
3月前
|
运维 负载均衡 网络协议
LVS+Keepalived 负载均衡
LVS+Keepalived 负载均衡
100 8
LVS+Keepalived 负载均衡
|
3月前
|
域名解析 运维 负载均衡
LVS+Keepalived 负载均衡(二)28-1
【8月更文挑战第28天】LVS+Keepalived 负载均衡 配置 LVS VIP
76 5