负载均衡通常有两种实现手段,一种是服务端负载均衡,另一种是客户端负载均衡,而我们的Ribbon就属于客户端负载均衡器。
服务端负载均衡器的问题是,他提供了更强的流量控制权,但无法满足不同的消费者希望使用不同负载均衡策略的需求,而使用不同负载均衡策略的场景确实是存在的,所以客户端负载均衡就提供了这种灵活性。然而使用客户端负载均衡也有其缺点,如果配置不当,可能会导致服务提供者出现热点,或者压根拿不到任何服务的情况,这里了解一下这7种内置负载均衡策略。
Ribbon介绍
Ribbon是spring cloud技术栈中非常重要的基础框架,它为spring cloud提供了负载均衡的能力,比如Feign和OpenFegin都是基于Ribbon实现的,就连Nacos中的负载均衡也使用了Ribbon框架。
Ribbon框架的强大之处在于,他不仅内置了7种负载均衡策略,同时还支持用户自定义负载均衡策略,所以其开放性和便利性也是它得以流行的主要原因。
服务端负载均衡器和客户端负载均衡器的区别如下图所示:
负载均衡设置
以Nacos中的Ribbon负载均衡设置为例,在配置文件 application.yml 中设置如下配置即可:
因为Nacos中已经内置了Ribbon,所以在实际项目开发中无需再添加Ribbon依赖了,这一点我们在Nacos的依赖树中就可以看到,如下:
7种负载均衡策略
1、轮询策略
RoundRobinRule,按照一定的顺序依次调用服务实例。比如一共有3个服务,第一次调用服务1,第二次调用服务2,第三次调用服务3,依次类推。此策略的配置设置如下:
2.权重策略
权重策略:WeightedResponseTimeRule,根据每个服务提供者的响应时间分配一个权重,响应时间越长,权重越小,被选中的可能醒就越低。他的实现原理是,刚开始使用轮询策略并开启一个计时器,每一段时间收集一次所有服务提供者的平均响应时间,然后再给每个服务提供者附上一个权重,权重越高被选中的概率也越大。此策略的配置设置如下:
3.随机策略
随机策略:RandomRule,从服务提供者的列表中随机选择一个服务实例。此策略的配置如下:
4.最小连接数策略
最小连接数策略:BestAvailableRule,也叫最小并发数策略,它是遍历服务提供者列表,选取连接数最小的一个服务实例,如果有相同的最小连接数,那么会调用轮询策略进行选取。此策略的配置如下:
5.重试策略
重试策略:RetryRule,按照轮询策略来获取服务,如果获取的服务实例为null或者已经失效,则在指定的时间之内不断的进行重试来获取服务,如果超过指定时间依然没有获取到服务实例则返回null,此策略的配置如下:
6.可用性敏感策略
可用性敏感策略:AvailabilityFilteringRule,先过滤掉非健康的服务实例,然后再选择连接数较小的服务实例。此策略的配置设置如下:
7.区域敏感策略
区域敏感策略:ZoneAvoidanceRule,根据服务所在区域(zone)的性能和服务的可用性来选择服务实例,在没有区域的环境下,该策略和轮询策略类似。此策略的配置设置如下:
总结:
Ribbon为客户端负载均衡器,相比于服务端负载均衡器的统一负载均衡策略来说,它提供了更多的灵活性。Ribbon 内置了 7 种负载均衡策略:轮询策略、权重策略、随机策略、最小连接数策略、重试策略、可用性敏感策略、区域性敏感策略,并且用户可以通过继承 RoundRibbonRule 来实现自定义负载均衡策略。