小故事详解负载均衡技术的实现:从tomcat到Nginx

本文涉及的产品
应用型负载均衡 ALB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
简介: 什么是负载均衡? 通俗一点讲,就是在高并发、大数据环境下给服务器减压的技术。负载均衡是任何一个有一定规模的互联网企业都会考虑的问题,负载方式很多,有依靠硬件实现的,也有依靠软件实现负载的。 今天来聊聊使用软件来负载的方式。

什么是负载均衡?

通俗一点讲,就是在高并发、大数据环境下给服务器减压的技术。
负载均衡是任何一个有一定规模的互联网企业都会考虑的问题,负载方式很多,有依靠硬件实现的,也有依靠软件实现负载的。

今天来聊聊使用软件来负载的方式。

你可能听过各自负载的方式,比如常见的nginx,dubbo,springcloud等等技术框架都能实现负载,作为软件大牛的你有没有考虑过这些负载方式的区别呢?
下面小源就来假想个案例来谈谈常用的负载,我想对你一定会有帮助。

从一个tomcat谈起

在很久很久以前,小源成立了自己的公司,并做了一个购物网站-《小源购物网》,刚开始架构非常简单,传统的java开发框架,一个tomcat容器,经过1个月的没日没夜的编码,搞定,上线。

1年后,项目没想到火了,每天都有大量的人来购买娃娃、衣服、杯子等等。突然发现一个tomcat搞不定,怎么办?两个tomcat呗!

那么问题来了,两个tomcat没问题,服务器也整几台,但是我域名只有一个啊,怎么办?

Nginx登场

Nginx登场,通过一棒子程序猿的倒腾,在项目中引入nginx就能解决并发问题了,其中的研究过程也并不简单,session怎么共享,配置文件怎么配置等等,说多了都是泪,不管怎么说,起码完成了任务,能让2个tomcat联合起来工作了。

然而在线商城越来越火,没过2个月,发现2个tomcat也搞不定了,怎么办?只能集成更多tomcat了,当然Nginx集成很多tomcat都没问题,架构图如下:

但是……

增加tomcat小源得修改nginx.conf这配置文件,修改了配置问题我当然可以reload,让nginx生效,但reload狗血的经常有问题,而我又不得不经常重启。

重启就麻烦大了,我那服务不得停止,客户好好的在购物,突然发现不能下单,不能付款了,这不非常糟糕?

其实也还好,虽然客户友好度不好,但小源一般凌晨3点加班来维护,幸苦是辛苦,但勉强能接受。

直到有一天……

噩梦的一天

那天小源正在午睡,3伏天,太阳高晒着,在睡梦中砰的一声,电是没停,可是那台nginx服务器已经在冒烟了。

怎么办?那一天nginx的服务器肯定是报销了,没过多久客户的投诉电话就没完没了的打了过来,而这只是刚过去10分钟……

只能重新搭建个服务器了,好在服务器还有,只是配置文件什么了都忘记备份了,火急火燎的我足足花了1个小时才把服务器弄好,还是nginx配置文件非常熟练的情况下。

问题虽然解决了,但当天小源依然被投资经理一顿臭骂,一个小时损失了很多钱啊,而且客户的投诉还堆积如山。

以后再发生这情况怎么办?我肯定记得把配置文件进行备份了,但再发生nginx死机也是不能接受的啊.

终于……

Nginx+keepalived上线

一个nginx机群肯定是不行了,那我得用两个nginx机群才行,一个nginx冒烟了,另外个nignx马上等顶替,这样不就好了吗?

好了,那么总体的架构图如下。

终于,这样的架构解决了很大的问题。

但是这架构也有问题,至于到底有什么问题呢?Dubbo,spring cloud,zookeeper到底和负载有什么关系呢?

我先举个例子轻松一下,然后告诉你一个大多数人都会面临的问题。

一个大多数人都会面临的问题

下面这样一件事,你肯定也感同身受。

张程已经工作2年了,每个项目都是熬夜加班、高质量完成,薪资却依旧没有过万!多次提出加薪请求,领导总说哦哦哦知道了。

吃午饭时他听说,有个离职的同事,换了工作后年薪翻了1倍,已经40万+了。此时他心中一惊,明白了问题不在自己,而是目前的工作很难再大幅涨薪了。

你肯定也想快速拿到40万+年薪,不是吗?

很明显,java架构师正是你的机会。

我了解到,目前全行业都在使用微服务技术,人才短缺非常严重,普通微服务开发起薪也在15K/月。

靠微服务技术拿到高薪的例子,新闻里我们身边都有很多!

或许你也有过这样的经历:
到百度搜索“如何学习微服务?”,在结果页中点开的却都是广告,往下翻个5、6页,也没有满意的答案。

你又到知乎搜索“微服务要学什么技术?该怎么学?”。

各路键盘大神告诉你,要好几本书......

你把书买回家,每本都厚如砖头。我猜你肯定会想:“看完这些书怎么也得2年吧”,瞬间从“信心十足”变成“就当看着玩吧”。

那我们该如何轻松学习微服务呢?

下面的方法可以帮到你!
其实要轻松学习很简单,
我给你总结了两个要点:

  1. 找到一套好的视频课程,紧跟大牛梳理好的知识框架进行学习。
  2. 多练。

你我都不是天才,但只要你能做到这两点,短时间掌握技术的概率是非常大的。

那怎样才能找到一套好课程呢?

而且还必须免费 !

欢迎加入java架构师学习群474862212。

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
目录
相关文章
|
8月前
|
弹性计算 负载均衡 网络协议
阿里云SLB深度解析:从流量分发到架构优化的技术实践
本文深入探讨了阿里云负载均衡服务(SLB)的核心技术与应用场景,从流量分配到架构创新全面解析其价值。SLB不仅是简单的流量分发工具,更是支撑高并发、保障系统稳定性的智能中枢。文章涵盖四层与七层负载均衡原理、弹性伸缩引擎、智能DNS解析等核心技术,并结合电商大促、微服务灰度发布等实战场景提供实施指南。同时,针对性能调优与安全防护,分享连接复用优化、DDoS防御及零信任架构集成的实践经验,助力企业构建面向未来的弹性架构。
673 76
|
6月前
|
缓存 负载均衡 网络协议
电商API接口性能优化技术揭秘:缓存策略与负载均衡详解
电商API接口性能优化是提升系统稳定性和用户体验的关键。本文聚焦缓存策略与负载均衡两大核心,详解其在电商业务中的实践。缓存策略涵盖本地、分布式及CDN缓存,通过全量或部分缓存设计和一致性维护,减少后端压力;负载均衡则利用反向代理、DNS轮询等技术,结合动态调整与冗余部署,提高吞吐量与可用性。文中引用大型及跨境电商平台案例,展示优化效果,强调持续监控与迭代的重要性,为电商企业提供了切实可行的性能优化路径。
|
7月前
|
应用服务中间件 Linux 网络安全
技术指南:如何把docsify项目部署到基于CentOS系统的Nginx中。
总结 与其他部署方法相比,将docsify项目部署到基于CentOS系统的Nginx中比较简单。以上步骤应当帮助你在不花费太多时间的情况下,将你的项目顺利部署到Nginx中。迈出第一步,开始部署你的docsify项目吧!
308 14
|
7月前
|
存储 安全 应用服务中间件
将下载的Nginx证书转换为Tomcat证书格式
好,可以看到,将Nginx证书转换为Tomcat证书的过程就像在烘焙一块蛋糕。你需要准备材料(证书),配备工具(OpenSSL, keytool),按照一定的步骤慎重制作,最后你就拥有了一块可以在浏览器中呈现出漂亮的安全状态的HTTPS蛋糕。就这么简单,明了,没有任何复杂的理论知识,就像在家庭厨房里烘焙的快乐一样。
320 16
|
7月前
|
负载均衡 前端开发 应用服务中间件
Tomcat的负载均衡和动静分离(与nginx联动)
总的来说,负载均衡和动静分离是提高Web应用性能的两个重要手段。通过合理的配置和使用,我们可以让Web应用更好地服务于用户。
214 21
|
7月前
|
负载均衡 Java 应用服务中间件
Tomcat与Nginx的负载均衡与动静分离技巧
总的来说,Tomcat和Nginx各有各的优点,在负载均衡和动静分离这两方面它们都有很好的应用。灵活使用这两个工具能够让Web应用具有更好的扩展性和用户体验。
198 14
|
7月前
|
负载均衡 前端开发 JavaScript
LVS-DR模式、keepalived、Nginx与Tomcat合作,打造动静分离,高效负载均衡与高可用性
为了采用这样的架构,你需要对LVS-DR、Keepalived、Nginx与Tomcat有一定的理解和掌握,同时也需要投入一些时间去研究和配置,但是一旦你把它运行起来,你将会发现,这一切都是值得的。
271 11
|
12月前
|
缓存 Java 应用服务中间件
nginx的正向代理和反向代理以及tomcat
Nginx的正向代理和反向代理功能在不同的场景中具有重要作用,正向代理主要用于客户端访问控制和匿名浏览,而反向代理则用于负载均衡和高可用性服务。Tomcat作为Java Web应用服务器,与Nginx结合使用,可以显著提升Web应用的性能和稳定性。通过合理配置Nginx和Tomcat,可以构建高效、稳定和可扩展的Web服务架构。
441 11
|
缓存 负载均衡 算法
深入理解后端服务的负载均衡技术
在现代网络服务架构中,高效的负载均衡策略对于保证应用性能和可靠性至关重要。本文将深入探讨后端服务中的负载均衡技术,包括其重要性、常见算法以及如何实现高效均衡。通过分析不同的负载均衡方法,我们旨在为开发者提供实用的指导,帮助他们优化自己的系统架构。
|
12月前
|
负载均衡 前端开发 应用服务中间件
负载均衡指南:Nginx与HAProxy的配置与优化
负载均衡指南:Nginx与HAProxy的配置与优化
708 3