基于Docker部署 Tomcat集群、 Nginx负载均衡

简介: 当作一百世一样。这里的道理很明白:我思故我在,既然我存在,就不能装作不存在。无论如何,我要为自己负起责任。——王小波《三十而立》

写在前面


  • 看完Dokcer相关的书籍,正好有个项目要这样搞,所以自己练习一下。
  • 博文主要介绍了 Tomcat 集群+ Ngixn 负载的Docker环境部署
  • 两种实现方式,一种是通过宿主机桥接方式,一种是通过 内部网络Docker network 的方式
  • Demo相关镜像以上传DockerHub:
docker pull liruilong/nginx_log
docker pull liruilong/tomcat8

当作一百世一样。这里的道理很明白:我思故我在,既然我存在,就不能装作不存在。无论如何,我要为自己负起责任。——王小波《三十而立》


结构图:

image.png

这里仅作为一种学习,一般这种负载的话,Nginx是放到主机侧的, JavaWeb(Tomcat) 应用放到容器里。

  • 效果

image.png

新建文件夹。

 D=uag;mkdir $D;cd $D;mkdir uag_nginx uag_tomcat8;
 ls
 uag_nginx  uag_tomcat8

一,Ngixn 镜像制作

cd uag_nginx/
# 用于存放配置文件
mkdir nginx
vim Dockerfile

Dockerfile 文件内容

FROM nginx
LABEL maintainer="uag"
ENV REFRESHED_AT 2021-08-27

EXPOSE 8099

构建nginx配置文件内容

这个的配置文件,在容器运行的时候通过 -v 参数与 容器内部共享。方便后期参数更改

cd ./nginx
vim nginx.conf

nginx.conf 配置文件内容

user  nginx;
worker_processes  auto;

error_log  /var/log/nginx/error.log notice;
pid        /var/run/nginx.pid;
daemon off;

events {
    worker_connections  1024;
}


http {
    include       /etc/nginx/mime.types;
    default_type  application/octet-stream;

    log_format  main  '$upstream_addr - $remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';

    access_log  /var/log/nginx/access.log  main;

    sendfile        on;
    #tcp_nopush     on;

    keepalive_timeout  65;

    #gzip  on;

    include /etc/nginx/conf.d/*.conf;

    server {
        listen          8099;
        server_name     localhost;

        root            /var/www/html/;
        index           index.html index.htm;

        access_log      /var/log/nginx/default_access.log main;
        error_log       /var/log/nginx/default_error.log;

        
        location / {
                proxy_pass http://backend;
        }

        location ~ .* {
                        proxy_pass http://backend;
                        proxy_set_header Host $http_host;
                        proxy_set_header X-Real-IP $remote_addr;
                        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
                }

        

}
    # 这里配置负载 
    upstream backend {
    server 172.23.231.190:8069;
    server 172.23.231.190:8079;
    server 172.23.231.190:8089;
}
}

配置负载:172.23.231.190为宿主机IP,8069,8079,8089为对应的Java Web 暴露的应用端口。

 # 这里配置负载 
    upstream backend {
    server 172.23.231.190:8069;
    server 172.23.231.190:8079;
    server 172.23.231.190:8089;
}

构建Nginx镜像

docker build -t uag/uag_nginx .

二,java Web(Tomcat)应用镜像构建

cd uag_tomcat8/

vim Dockerfile

Dockerfile 文件内容

FROM dordoka/tomcat
MAINTAINER LIRUILONG

COPY UAWeb.war   /opt/tomcat/webapps/UAWeb.war

EXPOSE 8080

ENTRYPOINT [ "/opt/tomcat/bin/catalina.sh", "run" ]

上传对应的War包

 ls
Dockerfile  UAWeb.war

构建镜像

 docker build -t uag/uag_tomcat .

三,运行容器

Nginx镜像

docker run -d -p 8099:8099 --name uag_nginx  -v $PWD/nginx/nginx.conf:/etc/nginx/nginx.conf   uag/uag_nginx nginx

java Web(Tomcat)镜像

 docker run -it -d -p 8089:8080 --name uag_app_1  uag/uag_tomcat
 docker run -it -d -p 8079:8080 --name uag_app_2  uag/uag_tomcat
 docker run -it -d -p 8069:8080 --name uag_app_3  uag/uag_tomcat
查看运行的容器

image.png

  • 浏览器访问

image.png

查看负载方式:新进程的方式

image.png

查看负载方式:--volumes-from 方式

Dockerfile文件

FROM nginx
LABEL maintainer="uag"
ENV REFRESHED_AT 2021-08-27


VOLUME  /var/log/nginx/
EXPOSE 80
┌──(liruilong㉿Liruilong)-[/mnt/e/docker/uag/uag_nginx]
└─$ docker run  -it --rm --volumes-from nginx_log  centos cat /var/log/nginx/default_access.log
172.23.231.190:8069 - 172.17.0.1 - - [30/Aug/2021:12:55:02 +0000] "GET /UAWeb/services/listServices HTTP/1.1" 200 12660 "http://127.0.0.1:8099/UAWeb/" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"

172.23.231.190:8079 - 172.17.0.1 - - [30/Aug/2021:12:55:02 +0000] "GET /UAWeb/axis2-web/css/axis-style.css HTTP/1.1" 200 1587 "http://127.0.0.1:8099/UAWeb/services/listServices" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.23.231.190:8069 - 172.17.0.1 - - [30/Aug/2021:12:55:02 +0000] "GET /UAWeb/axis2-web/images/asf-logo.gif HTTP/1.1" 200 5866 "http://127.0.0.1:8099/UAWeb/services/listServices" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.23.231.190:8079 - 172.17.0.1 - - [30/Aug/2021:12:55:02 +0000] "GET /UAWeb/axis2-web/images/axis_l.jpg HTTP/1.1" 200 12340 "http://127.0.0.1:8099/UAWeb/services/listServices" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.23.231.190:8089 - 172.17.0.1 - - [30/Aug/2021:12:55:03 +0000] "GET /UAWeb/services/listServices HTTP/1.1" 200 12660 "http://127.0.0.1:8099/UAWeb/" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.23.231.190:8069 - 172.17.0.1 - - [30/Aug/2021:12:55:03 +0000] "GET /UAWeb/axis2-web/images/asf-logo.gif HTTP/1.1" 200 5866 "http://127.0.0.1:8099/UAWeb/services/listServices" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92

四,构建好镜像上传仓库:

image.png

嗯,需要注册一个Docker Hub账号,然后登录,需要镜像前面加 账户名/

┌──(liruilong㉿Liruilong)-[/mnt/e/docker/uag/uag_nginx]
└─$ docker push liruilong/nginx_log
The push refers to repository [docker.io/liruilong/nginx_log]
An image does not exist locally with the tag: liruilong/nginx_log

┌──(liruilong㉿Liruilong)-[/mnt/e/docker/uag/uag_nginx]
└─$ docker tag 9c9af0362eb9  liruilong/nginx_log

┌──(liruilong㉿Liruilong)-[/mnt/e/docker/uag/uag_nginx]
└─$ docker push liruilong/nginx_log
The push refers to repository [docker.io/liruilong/nginx_log]
fb04ab8effa8: Pushed
8f736d52032f: Pushed
009f1d338b57: Pushed
678bbd796838: Pushed
d1279c519351: Pushed
f68ef921efae: Pushed
latest: digest: sha256:2af7e8aeab84e8a816caf6b0342e1a45f95c7089ff52578040ea3a4c28a943c7 size: 1570

┌──(liruilong㉿Liruilong)-[/mnt/e/docker/uag/uag_nginx]
└─$  docker pull liruilong/nginx_log  # 拉去镜像

image.png

五,扩展

上面的部署方式,在宿主机一样可以通过端口访问到应用。考虑安全问题,我希望不能通过宿主机访问到应用,要求只能通过 Nginx 反向代理到上游应用服务器,即tomcat的容器端口不映射给宿主机。那这个这么处理。

我们先来分析一下之前的,之前我们是通过桥接模式进行网络互通,即Ngixn每次负载的时候都要通过宿主机访问Tomcat应用服务器,现在我们要直接通过Nginx到Tomcat。这里我们要用到docker 1.9 的新特性 network ,对于1.9 之前,我们可以使用 link来实现容器之间的网络互通。

network 方式隔离业务容器

需要我们改一下Nginx的配置文件


    upstream backend {
    server uag_app_3:8080;
    server uag_app_2:8080;
    server uag_app_1:8080;
    }

解释一下这里的写法:使用 network 之后,由于这四个容器是在同一个网络内部启动的,即位于相同的网段,彼此可以ping通,同时Docker将会感知到所有在这个网络下运行的容器,并且通过/etc/hosts文件将这些容器的地址保存到本地DNS中(这个映射可能看不到,但是实际可以ping通的)。我们就直接可以在容器中使用过。可以直接通过 容器名 或者 容器名.网络名 (uag_app_3,uag_app_3.uag_net) 通过 DNS 解析获取到 IP。

这样,我们在配置Nginx负载的时候,就直接可以通过 容器名:端口 的方式进行负载,这样的我们即隔离业务容器,同时,不需要维护 IP和端口,这个DNS注册是自动的,如果任何一个容器重启了,那么它们的IP地址信息则会自动在/etc/hosts文件中更新。也就是说,对底层容器的修改并不会对我们的应用程序正常工作产生影响。

看下结果:
image.png

这里我们写了一个小脚本,用来演示:

#/bin/bash

# 删除启动容器
docker  rm -f uag_nginx  uag_app_2 uag_app_1 uag_app_3


#定义局域网络名字
N=NetWorkUag

if docker network ls | grep $N
then
  echo "网络已存在"
else
  docker network create $N
fi
docker run -it -d  --net $N --name uag_app_1 -h uag_app_1 uag/uag_tomcat
docker run -it -d  --net $N --name uag_app_2 -h uag_app_2 uag/uag_tomcat
docker run -it -d  --net $N --name uag_app_3 -h uag_app_2 uag/uag_tomcat
docker run -d -p 5678:8099 --name uag_nginx --net $N  -v $PWD/nginx/nginx.conf:/etc/nginx/nginx.conf    nginx_log nginx
docker ps
负载情况

┌──(liruilong㉿Liruilong)-[/mnt/e/docker/uag/uag_tomcat8]
└─$ docker exec -it  uag_nginx /bin/bash
root@0584832ed231:/# cat /var/log/nginx/default_access.log
172.20.0.4:8080 - 172.20.0.1 - - [02/Sep/2021:13:25:19 +0000] "GET /UAWeb/ HTTP/1.1" 200 3496 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.20.0.3:8080 - 172.20.0.1 - - [02/Sep/2021:13:25:36 +0000] "GET /UAWeb/ HTTP/1.1" 499 0 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.20.0.4:8080 - 172.20.0.1 - - [02/Sep/2021:13:25:36 +0000] "GET /UAWeb/ HTTP/1.1" 200 3496 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.20.0.3:8080 - 172.20.0.1 - - [02/Sep/2021:13:25:37 +0000] "GET /UAWeb/ HTTP/1.1" 200 3496 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.20.0.2:8080 - 172.20.0.1 - - [02/Sep/2021:13:25:38 +0000] "GET /UAWeb/ HTTP/1.1" 200 3496 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
172.20.0.4:8080 - 172.20.0.1 - - [02/Sep/2021:13:25:40 +0000] "GET /UAWeb/services/listServices HTTP/1.1" 200 12653 "http://127.0.0.1:5678/UAWeb/" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36" "-"
root@0584832ed231:/#
相关实践学习
部署高可用架构
本场景主要介绍如何使用云服务器ECS、负载均衡SLB、云数据库RDS和数据传输服务产品来部署多可用区高可用架构。
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
18天前
|
应用服务中间件 网络安全 nginx
快速上手!使用Docker和Nginx部署Web服务的完美指南
快速上手!使用Docker和Nginx部署Web服务的完美指南
|
18天前
|
JavaScript 前端开发 应用服务中间件
angular引入包、路由权限配置、打包问题与nginx配置问题(简单部署)
angular引入包、路由权限配置、打包问题与nginx配置问题(简单部署)
24 0
|
18天前
|
XML Java 应用服务中间件
Tomcat_servlet部署、编译、配置、打包
Tomcat_servlet部署、编译、配置、打包
21 0
|
3天前
|
应用服务中间件
jeecgboot开发环境服务启动刷新没问题,部署到tomcat,F5刷新或者浏览器刷新,会出现404
jeecgboot开发环境服务启动刷新没问题,部署到tomcat,F5刷新或者浏览器刷新,会出现404
|
5天前
|
应用服务中间件 nginx
如何在树莓派部署Nginx并实现无公网ip远程访问内网制作的web网站
如何在树莓派部署Nginx并实现无公网ip远程访问内网制作的web网站
8 0
|
12天前
|
存储 Java 应用服务中间件
Springboot项目打war包部署到外置tomcat容器【详解版】
该文介绍了将Spring Boot应用改为war包并在外部Tomcat中部署的步骤:1) 修改pom.xml打包方式为war;2) 排除内置Tomcat依赖;3) 创建`ServletInitializer`类继承`SpringBootServletInitializer`;4) build部分需指定`finalName`;5) 使用`mvn clean package`打包,将war包放入外部Tomcat的webapps目录,通过startup脚本启动Tomcat并访问应用。注意,应用访问路径和静态资源引用需包含war包名。
|
14天前
|
运维 Serverless 应用服务中间件
Serverless 应用引擎产品使用之在阿里云Serverless中函数计算FC nginx 部署上去之后放置静态页面如何解决
阿里云Serverless 应用引擎(SAE)提供了完整的微服务应用生命周期管理能力,包括应用部署、服务治理、开发运维、资源管理等功能,并通过扩展功能支持多环境管理、API Gateway、事件驱动等高级应用场景,帮助企业快速构建、部署、运维和扩展微服务架构,实现Serverless化的应用部署与运维模式。以下是对SAE产品使用合集的概述,包括应用管理、服务治理、开发运维、资源管理等方面。
219 0
|
21天前
|
负载均衡 监控 网络协议
使用haproxy实现负载均衡集群
【4月更文挑战第14天】HAProxy提供高可用性、负载均衡以及基于TCP和HTTP应用的代理,快速并且可靠的一种解决方案。
13 1
|
运维 Kubernetes 前端开发
【云原生】阿里云服务器部署 Docker Swarm集群
阿里云服务器 一键部署 Docker Swarm 集群!
545 0
【云原生】阿里云服务器部署 Docker Swarm集群
|
弹性计算 Linux Shell
阿里云一键部署 Docker Datacenter
使用阿里云ROS一键部署Docker Datacenter
12227 1