java编程—如何搭建Keepalived+Nginx+Tomcat高可用负载均衡架构

本文涉及的产品
网络型负载均衡 NLB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
简介: 一.概述初期的互联网企业由于业务量较小,所以一般单机部署,实现单点访问即可满足业务的需求,这也是最简单的部署方式,但是随着业务的不断扩大,系统的访问量逐渐的上升,单机部署的模式已无法承载现有的业务量,需要进行服务集群化部署,本文主要介绍服务端Tomcat多实例部署,以及如何保证web服务的高可用方案。

一.概述

初期的互联网企业由于业务量较小,所以一般单机部署,实现单点访问即可满足业务的需求,这也是最简单的部署方式,但是随着业务的不断扩大,系统的访问量逐渐的上升,单机部署的模式已无法承载现有的业务量,需要进行服务集群化部署,本文主要介绍服务端Tomcat多实例部署,以及如何保证web服务的高可用方案。

  • Nginx 是一个高性能的 HTTP反向代理服务器
  • Keepalived 是一个基于VRRP协议来实现的LVS服务高可用方案,可以利用其来避免服务的单点故障
  • Tomcat 是一个免费的开放源代码的Web 应用服务器,属于轻量级应用服务器。

二. Nginx的高可用负载均衡架构

如下图:为典型的Tomcat服务多实例部署的架构图

java编程—如何搭建Keepalived+Nginx+Tomcat高可用负载均衡架构

 

  • (1)用户通过域名请求到DNS,由DNS解析域名后返回对应的IP地址,该IP及为Keepalived映射服务器的虚拟IP
  • (2)通过该虚拟IP访问到对应的负载均衡器(Nginx),这里Nginx部署两个,然后通过Keepalived来保证NG的高可用,正常情况下由Keepalived-M将虚拟IP映射转发至Nginx-M,如果Nginx-M出现故障,此时Keepalived会切换至Keepalived-S开始工作,从而保证了NG的单点故障问题。
  • (3)通过Nginx负载均衡器,将请求路由到对应的Tomcat服务。

想要学习Java高架构、分布式架构、高可扩展、高性能、高并发、性能优化、Spring boot、Redis、ActiveMQ、Nginx、Mycat、Netty、Jvm大型分布式项目实战学习架构师视频免费获取
架构群;468947140

三. 搭建Keepalived + Nginx + Tomcat的高可用负载均衡架构

  1. 需要准备的软件
  • (1)apache-tomcat-8.5.16.tar.gz
  • (2)nginx-1.12.2.tar.gz
  • (3)keepalived-1.3.9.tar.gz

2.服务器准备

两台服务器如:192.168.10.11,192.168.10.12

3.安装需要的依赖包

$ yum -y install gcc gcc-c++ automake pcre pcre-devel zlib zlib-devel open openssl-devel

4.安装

4.1 安装Tomcat

(1)分别在两台服务器中安装Tomcat,解压apache-tomcat-8.5.16.tar.gz及可完成安装。

4.2 安装Nginx

  • (1)解压安装包:tar -zxvf nginx-1.12.2.tar.gz
  • (2)进入到nginx-1.12.2目录:cd nginx-1.12.2
  • (3)编译:

$ ./configure --with-http_stub_status_module --with-http_ssl_module --prefix=/usr/local/nginx

$ sudo make && sudo make install

4.3 安装Keepalived

  • (1)解压安装包:tar -zxvf keepalived-1.3.9.tar.gz
  • (2)进入到keepalived-1.3.9目录:cd keepalived-1.3.9
  • (3)执行编译:

$ ./configure --prefix=/usr/local/keepalived --sysconf=/etc

$ sudo make && sudo make install

5 配置

5.1 分别配置两台服务器的Nginx

  • (1)分别修改两台服务器nginx配置文件,vi /usr/local/nginx/conf/nginx.conf
  • (2)内容如下:

#nginx进程数

worker_processes 1;

#单个进程最大连接数

events {

worker_connections 1024;

}

#http服务器配置

http {

include mime.types;

default_type application/octet-stream;

sendfile on;

#长连接超时时间,单位是秒

keepalive_timeout 65;

#upstream负载均衡配置,配置路由到tomcat的服务地址以及权重

upstream localhost{

server 192.168.10.11:8080 weight=2;

server 192.168.10.12:8080 weight=2;

}

#虚拟主机的配置

server {

#监听端口

listen 80;

#域名可以有多个,用空格隔开

server_name localhost;

location / {

root html;

index index.html index.htm;

#nginx跟后端服务器连接超时时间(代理连接超时)

proxy_connect_timeout 3;

#后端服务器数据回传时间(代理发送超时)

proxy_send_timeout 30;

#连接成功后,后端服务器响应时间(代理接收超时)

proxy_read_timeout 30;

proxy_pass http://localhost;

}

error_page 500 502 503 504 /50x.html;

location = /50x.html {

root html;

}

}

}

5.2 主Keepalived配置

  • (1)修改11服务器的keepalived配置文件,vi /etc/keepalived/keepalived.conf
  • (2)内容如下:

! Configuration File for keepalived

#全局配置

global_defs {

#keepalived切换的时候,发消息到指定的email,可配置多个email

notification_email {

feinik1@foxmail.com

feinik2@foxmail.com

}

#通知邮件从哪个地址发出

notification_email_from feinik@foxmail.com

#通知邮件的smtp地址

smtp_server smtp.exmail.qq.com

#连接smtp服务器的超时时间,单位秒

smtp_connect_timeout 30

#Keepalived的机器标识,一个网络内保持唯一

router_id nginx-master

}

#执行脚本配置

vrrp_script chk_nginx {

#脚本所在路径

script "/home/project/keepalived/check_nginx.sh"

#脚本执行间隔时间,秒

interval 2

#优先级

weight 2

}

#keepalived实例配置

vrrp_instance VI_1 {

#指定实例的初始状态,MASTER或BACKUP两种状态,并且需要大写

state MASTER

#实例绑定的网卡

interface ens33

#虚拟路由标识,是一个数字,整个VRRP内唯一,如果keepalived配置了主备,需要相同

virtual_router_id 51

#优先级,数值愈大,优先级越高

priority 100

#MASTER与BACKUP之间同步检查的时间间隔,单位为秒

advert_int 1

#通信验证

authentication {

auth_type PASS

auth_pass feinik

}

#追踪外围脚本

track_script {

#这里配置vrrp_script的名称

chk_nginx

}

#虚拟ip配置,可配置多个

virtual_ipaddress {

192.168.10.200

}

}

5.3 备Keepalived配置

  • (1)修改12服务器的keepalived配置文件,vi /etc/keepalived/keepalived.conf
  • (2)内容如下:

! Configuration File for keepalived

#全局配置

global_defs {

#keepalived切换的时候,发消息到指定的email,可配置多个email

notification_email {

feinik1@foxmail.com

feinik2@foxmail.com

}

#通知邮件从哪个地址发出

notification_email_from feinik@foxmail.com

#通知邮件的smtp地址

smtp_server smtp.exmail.qq.com

#连接smtp服务器的超时时间,单位秒

smtp_connect_timeout 30

#Keepalived的机器标识,一个网络内保持唯一

router_id nginx-master

}

#执行脚本配置

vrrp_script chk_nginx {

#脚本所在路径

script "/home/project/keepalived/check_nginx.sh"

#脚本执行间隔时间,秒

interval 2

#优先级

weight 2

}

#keepalived实例配置

vrrp_instance VI_1 {

#指定实例的初始状态,MASTER或BACKUP两种状态,并且需要大写

state BACKUP

#实例绑定的网卡

interface ens33

#虚拟路由标识,是一个数字,整个VRRP内唯一,如果keepalived配置了主备,需要相同

virtual_router_id 51

#优先级,数值愈大,优先级越高

priority 99

#MASTER与BACKUP之间同步检查的时间间隔,单位为秒

advert_int 1

#通信验证

authentication {

auth_type PASS

auth_pass feinik

}

#追踪外围脚本

track_script {

#这里配置vrrp_script的名称

chk_nginx

}

#虚拟ip配置,可配置多个

virtual_ipaddress {

192.168.10.200

}

}

5.4 Nginx状态检查脚本创建

(1)新建Nginx的状态检查脚本:check_nginx.sh

(2)内容如下:

#!/bin/sh

NGINX=/usr/common/nginx/sbin/nginx

PORT=80

nmap localhost -p $PORT | grep "$PORT/tcp open"

#echo $?

if [ $? -ne 0 ];then

$NGINX -s stop

#这里再次尝试启动NG

$NGINX

sleep 5

nmap localhost -p $PORT | grep "$PORT/tcp open"

[ $? -ne 0 ] && cd /usr/common/keepalived/sbin && pkill keepalived

echo "stoped"

fi

4 运行测试

  • (1)为了更直观的查看到keepalived切换的效果,将11服务器中的nginx的upstream服务只配置11的tomcat服务地址,12服务器中的upstream服务只配置12的tomcat服务地址,这样只需要观察将11服务器中的nginx关闭看使用虚拟ip是否可以访问到12服务器的tomcat。
  • (2)分别启动两个服务器中的tomcat、nginx、keepalived,访问虚拟ip:192.168.10.200,可以查看到访问的是主keepalived服务器的tomcat

java编程—如何搭建Keepalived+Nginx+Tomcat高可用负载均衡架构

 

  •  
  • image.png
  • (3)关闭11服务器的nginx,nginx -s stop,再次访问虚拟ip,如下:说明主keepalived通过配置的脚本检测到了本服务的nginx服务挂掉了,所以立马切换至了备的keepalived,这时12服务器的keepalived升为了主,所以就访问到了12服务器的tomcat。

java编程—如何搭建Keepalived+Nginx+Tomcat高可用负载均衡架构

欢迎大家加入架构群:468947140
本群提供免费的学习指导 架构资料 以及免费的解答
不懂得问题都可以在本群提出来 还会有职业生涯规划以及面试指导
进群修改群备注:开发年限-地区-经验
方便架构师解答问题

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
2月前
|
Java 开发者
Java多线程编程中的常见误区与最佳实践####
本文深入剖析了Java多线程编程中开发者常遇到的几个典型误区,如对`start()`与`run()`方法的混淆使用、忽视线程安全问题、错误处理未同步的共享变量等,并针对这些问题提出了具体的解决方案和最佳实践。通过实例代码对比,直观展示了正确与错误的实现方式,旨在帮助读者构建更加健壮、高效的多线程应用程序。 ####
|
1月前
|
Java 程序员
Java编程中的异常处理:从基础到高级
在Java的世界中,异常处理是代码健壮性的守护神。本文将带你从异常的基本概念出发,逐步深入到高级用法,探索如何优雅地处理程序中的错误和异常情况。通过实际案例,我们将一起学习如何编写更可靠、更易于维护的Java代码。准备好了吗?让我们一起踏上这段旅程,解锁Java异常处理的秘密!
|
12天前
|
存储 缓存 Java
Java 并发编程——volatile 关键字解析
本文介绍了Java线程中的`volatile`关键字及其与`synchronized`锁的区别。`volatile`保证了变量的可见性和一定的有序性,但不能保证原子性。它通过内存屏障实现,避免指令重排序,确保线程间数据一致。相比`synchronized`,`volatile`性能更优,适用于简单状态标记和某些特定场景,如单例模式中的双重检查锁定。文中还解释了Java内存模型的基本概念,包括主内存、工作内存及并发编程中的原子性、可见性和有序性。
Java 并发编程——volatile 关键字解析
|
2天前
|
存储 负载均衡 NoSQL
搭建高可用及负载均衡的Redis
通过本文介绍的高可用及负载均衡Redis架构,可以有效提升Redis服务的可靠性和性能。主从复制、哨兵模式、Redis集群以及负载均衡技术的结合,使得Redis系统在应对高并发和数据一致性方面表现出色。这些配置和技术不仅适用于小型应用,也能够支持大规模企业级应用的需求。希望本文能够为您的Redis部署提供实用指导和参考。
26 9
|
16天前
|
算法 Java 调度
java并发编程中Monitor里的waitSet和EntryList都是做什么的
在Java并发编程中,Monitor内部包含两个重要队列:等待集(Wait Set)和入口列表(Entry List)。Wait Set用于线程的条件等待和协作,线程调用`wait()`后进入此集合,通过`notify()`或`notifyAll()`唤醒。Entry List则管理锁的竞争,未能获取锁的线程在此排队,等待锁释放后重新竞争。理解两者区别有助于设计高效的多线程程序。 - **Wait Set**:线程调用`wait()`后进入,等待条件满足被唤醒,需重新竞争锁。 - **Entry List**:多个线程竞争锁时,未获锁的线程在此排队,等待锁释放后获取锁继续执行。
50 12
|
13天前
|
存储 安全 Java
Java多线程编程秘籍:各种方案一网打尽,不要错过!
Java 中实现多线程的方式主要有四种:继承 Thread 类、实现 Runnable 接口、实现 Callable 接口和使用线程池。每种方式各有优缺点,适用于不同的场景。继承 Thread 类最简单,实现 Runnable 接口更灵活,Callable 接口支持返回结果,线程池则便于管理和复用线程。实际应用中可根据需求选择合适的方式。此外,还介绍了多线程相关的常见面试问题及答案,涵盖线程概念、线程安全、线程池等知识点。
93 2
|
2月前
|
设计模式 Java 开发者
Java多线程编程的陷阱与解决方案####
本文深入探讨了Java多线程编程中常见的问题及其解决策略。通过分析竞态条件、死锁、活锁等典型场景,并结合代码示例和实用技巧,帮助开发者有效避免这些陷阱,提升并发程序的稳定性和性能。 ####
|
2月前
|
缓存 Java 开发者
Java多线程编程的陷阱与最佳实践####
本文深入探讨了Java多线程编程中常见的陷阱,如竞态条件、死锁和内存一致性错误,并提供了实用的避免策略。通过分析典型错误案例,本文旨在帮助开发者更好地理解和掌握多线程环境下的编程技巧,从而提升并发程序的稳定性和性能。 ####
|
29天前
|
安全 算法 Java
Java多线程编程中的陷阱与最佳实践####
本文探讨了Java多线程编程中常见的陷阱,并介绍了如何通过最佳实践来避免这些问题。我们将从基础概念入手,逐步深入到具体的代码示例,帮助开发者更好地理解和应用多线程技术。无论是初学者还是有经验的开发者,都能从中获得有价值的见解和建议。 ####
|
29天前
|
Java 调度
Java中的多线程编程与并发控制
本文深入探讨了Java编程语言中多线程编程的基础知识和并发控制机制。文章首先介绍了多线程的基本概念,包括线程的定义、生命周期以及在Java中创建和管理线程的方法。接着,详细讲解了Java提供的同步机制,如synchronized关键字、wait()和notify()方法等,以及如何通过这些机制实现线程间的协调与通信。最后,本文还讨论了一些常见的并发问题,例如死锁、竞态条件等,并提供了相应的解决策略。
50 3