一、 LVS-DR 工作原理
1.1 LVS-DR数据包流向分析
(1)客户端发送请求到Director Server (负载均衡器),请求的数据报文(源IP是CIP,目标IP是VIP)到达内核空间。
(2)Director Server 和Real Server 在同一个网络中,数据通过二层数据链路层来传输。
(3)内核空间判断数据包的目标IP是本机VIP,此时IPVS(IP虛拟服务器)比对数据包请求的服务是否是集群服务,是集群服务就重新封装数据包修改源MAC地址为Director server 的MAC地址,修改目标MAC地址为Real Server 的MAC 地址,源IP 地址与目标IP地址没有改变,然后将数据包发送给Real Server。
(4)到达Real server 的请求报文的MAC地址是自身的MAC地址,就接收此报文。数据包重新封装报文(源IP地址为VIP,目标IP为CIP),将响应报文通过lo接口传送给物理网卡然后向外发出。
(5)Real Server 直接将响应报文传送到客户端。客户端收到回复报文,认为得到正常的服务,而不会知道是哪一台服务器处理的。
注意:如果跨网段,则报文通过路由器经由Internet返回给用户。
1.2 DR模式的特点
(1)Director Server(调度器) 和 Real Server(节点服务器) 必须在同一个物理网络中。
(2)Real Server可以使用私有地址,也可以使用公网地址。如果使用公网地址,可以通过互联网对RIP进行直接访问。
(3)Director Server作为群集的访问入口,但不作为网关使用。
(4)所有的请求报文经由Director Server, 但回复响应报文不能经过Director Server。
(5) Real Server 的网关不允许指向Director Server IP, 即Real Server发送的数据包不允许经过Director Server。(RS的网关地址只能指定真实的路由器网关)
(6) Real Server 上的 lo 接口配置VIP的IP地址。
二、LVS-DR中的ARP问题
2.1 问题一:VIP地址相同导致响应冲突
问题原因:
在LVS-DR负载均衡集群中,负载均衡器与节点服务器都要配置相同的VIP地址,在局域网中具有相同的IP地 址,势必会造成各服务器ARP通信的紊乱。
- 当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会收到ARP广播。
- 只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播。
解决方法:
对节点服务器进行处理,使其不响应针对VIP的ARP请求
- 使用虚接口lo:0承载VIP地址
- 设置内核参数 arp_ ignore=1:系统只响应目的IP为本地IP(物理网卡的地址,而不是lo网卡的虚接口地址)的ARP请求。
2.2 问题二:返回报文时源地址使用VIP,导致网关设备的ARP缓存表紊乱
问题原因:
- RealServer返回报文(源IP是VIP)经路由器转发,重新封装报文时,需要先获取路由器的MAC地址。
- 发送ARP请求时,Linux默认使用IP包的源IP地址(即VIP)作为ARP请求包中的源IP地址,而不使用发送接口的IP地址。
- 路由器收到ARP请求后,将更新ARP表项。原有的VIP对应Director的MAC地址,会被更新为VIP对应的Real Server的MAC地址。导致网关设备的ARP缓存表紊乱。
- 路由器根据ARP表项,会将新来的请求报文转发给Real Server,导致Director的VIP失效。
解决方法:
对节点服务器进行处理,设置内核参数arp_announce=2:系统不使用IP数据包的源地址来设置ARP请求的源地址,而选择发送接口(物理网卡)的IP地址。
2.3 解决ARP的两个问题的设置方法
修改/etc/sysctl.conf 文件,调整内核的ARP响应参数。
vim /etc/sysctl.conf //添加以下四行参数 net.ipv4.conf.lo.arp_ignore = 1 net.ipv4.conf.lo.arp_announce = 2 net.ipv4.conf.all.arp_ignore = 1 net.ipv4.conf.all.arp_announce = 2 sysctl -p //刷新配置,读取修改后的配置 #arp_ignore=1 :使本机系统只响应目的IP为本地物理网卡IP的ARP请求。 #arp_announce=2:使本机系统不使用即将返回的IP数据包的源地址来作为ARP请求报文的源地址,而采用发送接口(物理网卡)的IP作为ARP请求报文源地址。 复制代码
三、LVS-DR 负载均衡群集的部署
实验环境:
DR服务器:192.168.72.10/24
两台WEB服务器:192.168.72.30/24,192.168.72.40/24
VIP:192.168.72.200/32
NFS服务器:192.168.72.192/24
客户端:192.168.72.77/24
实验拓扑:
3.1 部署共享服务(NFS服务器:192.168.72.192)
NFS服务器的具体部署过程在上一篇文章中有详细步骤,可查看上一篇文章(LVS负载均衡群集——NAT模式实操 - 掘金 (juejin.cn)),这里不再赘述。
#1、关闭防火墙 [root@nfs ~]# systemctl disable --now firewalld [root@nfs ~]# setenforce 0 #2、安装nfs-utils、rpcbind软件包 [root@nfs ~]# yum install nfs-utils rpcbind -y #3、新建共享目录,并创建站点文件 [root@nfs ~]# mkdir /share/ [root@nfs ~]# cd /share/ [root@nfs share]# mkdir tt nn [root@nfs share]# echo "tt is a girl" > tt/index.html [root@nfs share]# echo "nn is a boy" > nn/index.html #4、修改共享配置文件,设置共享策略 [root@nfs share]# pwd /share [root@nfs share]# vim /etc/exports //设置共享策略 /share/tt 192.168.72.0/24 /share/nn 192.168.72.0/24 #5、启动两个服务,查看本机的NFS共享目录 [root@nfs share]# systemctl start rpcbind [root@nfs share]# systemctl start nfs [root@nfs share]# showmount -e //查看本机发布的NFS共享目录 复制代码
3.2 部署Web节点服务器
第一台web节点服务器(192.168.72.30/24),VIP:192.168.72.200/32
#1、关闭防火墙 [root@web1 ~]# systemctl stop firewalld [root@web1 ~]# setenforce 0 #2、安装httpd,开启服务 [root@web1 ~]# mount /dev/sr0 /mnt //挂载光盘 mount: /dev/sr0 写保护,将以只读方式挂载 [root@web1 ~]# yum install httpd -y //安装httpd服务 [root@web1 ~]# systemctl start httpd //开启httpd服务 #3、配置虚拟IP地址(VIP:192.168.72.200),添加虚接口lo:0。 #此地址仅用作发送We响应数据包的源地址,并不需要监听客户机的访问请求(改由调度器监听并分发)。 #因此使用虚接口lo:0来承载VIP地址,并为本机添加一条路由记录,将访问VIP的数据限制在本地,以避免通信紊乱。 [root@web1 ~]# cd /etc/sysconfig/network-scripts/ [root@web1 network-scripts]# cp ifcfg-lo ifcfg-lo:0 [root@web1 network-scripts]# vim ifcfg-lo:0 //设置虚接口lo:0 DEVICE=lo:0 IPADDR=192.168.72.200 NETMASK=255.255.255.255 //子网掩码必须全为1(即32个1) ONBOOT=yes [root@web1 network-scripts]# ifup lo:0 //启动虚接口 [root@web1 network-scripts]# ifconfig lo:0 //查看虚接口的信息 #4、添加静态路由信息,dev指定出站网卡 [root@web1 ~]# route add -host 192.168.72.200 dev lo:0 [root@web1 ~]# route -n //以数字形式显示路由信息 #可以将添加路由的命令写入开机自启配置文件中,每次开机后自动执行 [root@web1 ~]# vim /etc/rc.local /sbin/route add -host 192.168.72.200 dev lo:0 [root@web1 ~]# chmod +x /etc/rc.d/rc.local #5、调整内核的ARP响应参数 #arp_ignore=1,使本机只响应目的IP为本地物理网卡IP的ARP请求。 #arp_announce=2,使本机系统采用发送接口的IP作为ARP请求报文源地址。 [root@web1 ~]# vim /etc/sysctl.conf net.ipv4.conf.lo.arp_ignore = 1 net.ipv4.conf.lo.arp_announce = 2 net.ipv4.conf.all.arp_ignore = 1 net.ipv4.conf.all.arp_announce = 2 [root@web1 ~]# sysctl -p //刷新配置,读取修改后的配置 #6、挂载站点。将NFS服务器的共享目录,挂载到httpd服务的根目录 [root@web1 ~]# showmount -e 192.168.72.192 //查看NFS服务器的共享信息 [root@web1 ~]# mount 192.168.72.192:/share/tt/ /var/www/html [root@web1 ~]# df //查看挂载是否成功 [root@web1 ~]# cat /var/www/html/index.html tt is a girl 复制代码