Nginx专栏—负载均衡的实现类型

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
EMR Serverless StarRocks,5000CU*H 48000GB*H
简介: 搭建了负载均衡技术的服务器是大量的并发访问或数据流量的入口,它的任务就是将这些流量分担到多台节点设备上分别处理,从而增加吞吐量,减少系统响应时间。除了并发请求,负载均衡服务器还可以将单个复杂任务分配转发给后端多个节点处理,处理完再汇总返回给用户。

搭建了负载均衡技术的服务器是大量的并发访问或数据流量的入口,它的任务就是将这些流量分担到多台节点设备上分别处理,从而增加吞吐量,减少系统响应时间。除了并发请求,负载均衡服务器还可以将单个复杂任务分配转发给后端多个节点处理,处理完再汇总返回给用户。


总而言之,负载均衡是一种网络技术,目的是:

  1. 优化资源使用
  2. 最大化吞吐量
  3. 最小化响应时间
  4. 避免任何单个资源的过载

基于OSI七层网络模型来分类的负载均衡

二层负载均衡 (Layer 2 Load Balancing)

一般是用虚拟mac地址方式,负载均衡服务器接收后会修改网卡的MAC地址,改为后端实际的MAC地址响应

三层负载均衡 (Layer 3 Load Balancing)

用虚拟IP地址的方式,用户端对虚拟的IP地址发出请求,负载均衡服务器会拿到 TCP/IP 的数据包,对数据包的 IP 地址进行转换,修改成真实的后端IP地址,然后把数据包重新发送出去。

四层负载均衡 (Layer 4 Load Balancing)

四层负载均衡在三层负载的基础上,加上了第四层的端口号,使用了IP + Port的方式来决定哪些流量需要做负载均衡,并记录下这个TCP或者UDP的流量是由哪台服务器处理的,后续这个连接的所有流量都同样转发到同一台服务器处理。

七层负载均衡 (Layer 7 Load Balancing)

七层的负载均衡是基于虚拟URL或主机IP的负载均衡。它在高级应用层上执行,会处理每个消息的实际内容。对比四层负载均衡,七层的负载均衡性能稍微差一点,因为它需要算法识别URL,cookie和HTTP head等信息。但是它的安全性却更高,它可以识别DDos攻击等其他一些恶意攻击,可以添加一些额外功能像是会话保持,图片压缩等等。

一般来说多个层级的负载均衡都是需要的,越往上功能越丰富,越底层的负载均衡越简单。因为主机和主机的通信是通过IP和端口进行的,所以软件层面上所能实现的负载均衡只能是4,7层。作为一名软件工程师,能接触到的其实也就只有四层和七层负载。

除了2347层模型,通过 DNS 实现负载均衡功能的场景也是非常常见的。

高可用的架构设计

当用户发送DNS返回的虚拟IP的时候,返回的IP是下一层的负载均衡的虚拟IP,如下图所示:

使用四层的原因是因为四层相对七层抗负载能力更强,性能更高,对内存和CPU资源消耗比较低。

同时,因为不管是请求还是响应的数据包都要通过四层负载均衡服务器进行 IP地址转换,为了防止流量瓶颈或者单点故障(Single Point Failure),我们需要对设备进行热备,以集群的模式存在。

当数据流量通过四层负载的分流策略分配到不同的下层负载,也就是七层负载上之后,会由七层负载针对http应用本身做分配和转发,比如这里的例子,根据不同的endpoint,分配请求到不同的下游应用服务器上。

这种架构设计可以扛得住千万,甚至亿级别的日访问量。如果是访问量比较小的应用,其实可以直接DNS + 七层负载就可以了。

若有收获,就点个赞吧

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
28天前
|
负载均衡 算法 搜索推荐
Nginx 常用的负载均衡算法
【10月更文挑战第17天】在实际应用中,我们需要根据具体的情况来选择合适的负载均衡算法。同时,还可以结合其他的优化措施,如服务器健康检查、动态调整权重等,来进一步提高负载均衡的效果和系统的稳定性。
112 59
|
3月前
|
负载均衡 NoSQL 算法
一天五道Java面试题----第十天(简述Redis事务实现--------->负载均衡算法、类型)
这篇文章是关于Java面试中Redis相关问题的笔记,包括Redis事务实现、集群方案、主从复制原理、CAP和BASE理论以及负载均衡算法和类型。
一天五道Java面试题----第十天(简述Redis事务实现--------->负载均衡算法、类型)
|
1月前
|
负载均衡 应用服务中间件 Linux
nginx学习,看这一篇就够了:下载、安装。使用:正向代理、反向代理、负载均衡。常用命令和配置文件,很全
这篇博客文章详细介绍了Nginx的下载、安装、配置以及使用,包括正向代理、反向代理、负载均衡、动静分离等高级功能,并通过具体实例讲解了如何进行配置。
150 4
nginx学习,看这一篇就够了:下载、安装。使用:正向代理、反向代理、负载均衡。常用命令和配置文件,很全
|
24天前
|
负载均衡 算法 应用服务中间件
Nginx 常用的负载均衡算法
【10月更文挑战第22天】不同的负载均衡算法各有特点和适用场景。在实际应用中,需要根据具体的业务需求、服务器性能和网络环境等因素来选择合适的算法。
28 3
|
28天前
|
负载均衡 监控 应用服务中间件
除了 Nginx,还有以下一些常见的负载均衡工具
【10月更文挑战第17天】这些负载均衡工具各有特点和优势,在不同的应用场景中发挥着重要作用。选择合适的负载均衡工具需要综合考虑性能、功能、稳定性、成本等因素。
|
1月前
|
负载均衡 应用服务中间件 nginx
Nginx的6大负载均衡策略及权重轮询手写配置
【10月更文挑战第9天】 Nginx是一款高性能的HTTP服务器和反向代理服务器,它在处理大量并发请求时表现出色。Nginx的负载均衡功能可以将请求分发到多个服务器,提高网站的吞吐量和可靠性。以下是Nginx支持的6大负载均衡策略:
148 7
|
1月前
|
负载均衡 算法 Java
腾讯面试:说说6大Nginx负载均衡?手写一下权重轮询策略?
尼恩,一位资深架构师,分享了关于负载均衡及其策略的深入解析,特别是基于权重的负载均衡策略。文章不仅介绍了Nginx的五大负载均衡策略,如轮询、加权轮询、IP哈希、最少连接数等,还提供了手写加权轮询算法的Java实现示例。通过这些内容,尼恩帮助读者系统化理解负载均衡技术,提升面试竞争力,实现技术上的“肌肉展示”。此外,他还提供了丰富的技术资料和面试指导,助力求职者在大厂面试中脱颖而出。
腾讯面试:说说6大Nginx负载均衡?手写一下权重轮询策略?
|
1月前
|
缓存 负载均衡 算法
nginx学习:配置文件详解,负载均衡三种算法学习,上接nginx实操篇
Nginx 是一款高性能的 HTTP 和反向代理服务器,也是一个通用的 TCP/UDP 代理服务器,以及一个邮件代理服务器和通用的 HTTP 缓存服务器。
69 0
nginx学习:配置文件详解,负载均衡三种算法学习,上接nginx实操篇
|
1月前
|
开发框架 负载均衡 前端开发
Nginx负载均衡
Nginx负载均衡
|
1月前
|
负载均衡 Java 应用服务中间件
Nginx负载均衡配置
Nginx负载均衡配置