什么是负载均衡
为了避免服务器崩溃,大家会通过负载均衡的方式来分担服务器压力。将对台服务器组成一个集群,当用户访问时,先访问到一个转发服务器,再由转发服务器将访问分发到压力更小的服务器。
负载均衡(Load Balancing)是将传入的请求流量分发到多个后端服务器的技术,以达到消除单点故障、提高可用性、增加扩展性等目的。
负载均衡调度算法
方式1: 轮询
RR(默认轮询)每个请求按时间顺序逐一分配到不同的后端服务器,如果后端服务器down掉能自动剔除。
upstream test { server weiyigeek.top:8080; server weiyigeek.top:8081; } server { listen 81; server_name weiyigeek.top; client_max_body_size 1024M; location / { proxy_pass http://test; proxy_set_header Host $host:$server_port; } }
方式2:权重
权重指定轮询几率,weight和访问比率成正比,用于后端服务器性能不均的情况。
upstream test { server weiyigeek.top:8081 weight=1; server weiyigeek.top:8080 weight=9; #那么10次一般只会有1次会访问到8081,而有9次会访问到8080 }
方式3: ip_hash
ip_hash 会话粘连, 上面的2种方式都有一个问题,那就是下一个请求来的时候请求可能分发到另外一个服务器,当我们的程序不是无状态的时候(采用了session保存数据),这时候就有一个很大的很问题了,比如把登录信息保存到了session中,那么跳转到另外一台服务器的时候就需要重新登录了,所以很多时候我们需要一个客户只访问一个服务器,那么就需要用iphash了,iphash的每个请求按访问ip的hash结果分配,这样每个访客固定访问一个后端服务器,可以解决session的问题。
# 会话粘粘可以理解为用户持续访问一个后端机器 upstream test { ip_hash; server weiyigeek.top:8080; server weiyigeek.top:8081; }
但有时候ip也会切换同时还是会存在这个session问题的
方式4:fair(第三方插件)
fair(第三方)按后端服务器 的响应时间来分配请求,响应时间短的优先分配。
upstream backend { fair; server weiyigeek.top:8080; server weiyigeek.top:8081; }
方式5:url_hash(第三方插件)
url_hash(第三方):按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器,后端服务器为缓存时比较有效。
在upstream中加入hash语句,server语句中不能写入weight等其他的参数,hash_method是使用的hash算法
upstream backend { hash $request_uri; hash_method crc32; server weiyigeek.top:8080; server weiyigeek.top:8081; }
方式6:最少连接
描述: 将请求分配到连接数最少的服务上。
upstream dalaoyang-server { least_conn; server weiyigeek.top:10001; server weiyigeek.top:10002; }
upstream中server配置项
upstream模块主要负责负载均衡的配置,通过默认的轮询调度方式来分发请求到后端服务器。
upstream的基本语法如下,一个upstream需要设置一个名称,这个名称可以在server里面当作proxy主机使用。
- weight:权重
- down : 当前server暂不参与负载均衡
- backup : 预留的备份服务器; 其它所有的非backup机器down或者忙的时候,请求backup机器。
- max_fails : max_fails是最多出错数量,可以为每一个server设置一个max_fails,如果请求server发生了错误则max_fails会加一,如果请求server错误次数达到了max_fails后,Nginx会标记这个server为故障状态,后面就不会再去请求它了。
- fail_timeout : 经过max_fails后服务暂停时间
- max_conns : 限制最大的连接数