应用程序负载平衡新风潮

简介:

大量远程、分散的,并且时常处于变化的用户基数将引起根本上无法预测的计算需求的浮动,因此需要拥有强力的监控和平衡IT资源的技术能力。

面对不可预测的工作负载,应用程序负载平衡以及应用程序传递控制器改善资源的利用,并加强面向用户的应用程序性能体验。

将精力投入到理解和选择适合的应用程序负载平衡技术,将可在使用最少的IT资源情况下保证高标准的用户体验。

应用程序负载平衡及相关控制技术

借助不同的技术,应用程序负载平衡和应用程序交付控制都能够加强客户端-服务器应用程序的性能。

负载平衡需要专用的硬件或软件来对网络流量进行监听——例如当接收到用户的请求,它将重新在多个入应用程序服务器这种计算组件之间分配流量。例如,面向高性能的存储,相对于依靠单个应用程序服务器和网络连接以支持不同和不可预测的水平的用户流量,公司通常会部署一个应用程序服务器集群与多个网络链接和冗余访问通道。负载平衡帮助IT部署人员掌控更高级别的应用程序流量,同时最小化响应时间延迟,这体现在潜在不必要的应用程序。

负载平衡也为应用程序的可用性进一步提升了冗余。当应用程序服务器出现问题,流量将对称或不对称地重新规划到其他可用的服务器集群中。对称设置将在可用的设备间均匀地分配工作负载。如果四个服务器集群中一台服务器出现问题,其三分之一的工作量将会被追加到剩余三台服务器中的每一台。不对称负载平衡主要用在服务器并不完全相同的情况,因为一些服务器比其他设备拥有更多的计算资源。在这一场景中,剩下三台服务器的一台或两台将能够处理所有故障造成服务器的流量。

常见的负载平衡需在服务器数量固定,相关存储和网络设备均已预先分配好的情况下才能生效,然而这种情况正在改变。当流量需求比规划的少时,静态方法就是在浪费计算资源,而当流量比预想的高时又不能满足需求。现代应用程序负载平衡变得越来越聪明,集成了基于规则的自动化和业务流程平台,具备监测流量水平的能力,并根据流量变化,自动增加服务器实例并关闭不需要的实例。这就降低了计算资源的固定承诺,并为应用程序提供更大的可伸缩性。

应用交付控制器(Application delivery controller,ADC)提供各种网络服务:如负载平衡、网络数据压缩、缓存、流量规划、应用程序安全性、SSL卸载、内容变换以及防火墙。供应商包括F5 Networks、微软、KEMP Technologies、Juniper Networks等等。这些服务代表着改进客户端和服务器之间的流量流向的智能技术水平。IT组织通常使用应用程序传递控制服务加速网站或基于web的应用程序,卸载许多通常由web服务器执行的任务。

在当今的许多案例中,负载平衡器和ADC几乎是没有区别的。单一的负载平衡器的概念已经几乎过时,并且当今的应用负载平衡器集成了与ADC相同的智能功能——内容变换、SSL卸载等。ADC引导性能最佳和资源最多的服务器的网络流量,而在执行伴随着可用资源变化的服务器自动流量平衡时——与负载平衡器的工作机理别无二致。

应用程序负载平衡方法

负载平衡方法的选择通常会受到特定的应用程序或服务的影响。HTTP、TCP、UDP和其他流量类型相比于其他协议,更容易受到相关方法的影响。在选择应用程序负载均衡产品时,考虑这些常见的方法:最少连接、轮询调度、基于散列和最少时间(响应)。

最少连接的方法,用最少的活动连接或交互,向服务器发送应用程序流量。例如,如果现有三台应用程序服务器,其中一台服务器处理10个请求,另一台服务器有20请求,第三台服务器未处理请求,负载平衡器将向第三台服务器发送流量。运营经理可以将权重分配给服务器,允许最少连接算法调整具备更多更强计算资源的服务器。

轮询调度方法通常是默认用于在服务器间负载平衡、分发应用程序流量。例如,在3台应用程序服务器之间,第一个请求与服务器1交互,第二个请求与服务器2交互,第三个请求与服务器三交互,第四个请求回到服务器1这样。负载均衡器在可用的服务器之间周期地反复轮询。IT管理人员也可以分配权重,这样更大的和更强大的系统就能在同样的轮次中处理比其他服务器更多的请求。或者,根据实际测量的服务器性能考虑权重流量动态分配。

基于散列的负载平衡路径流量适用于数量具体且有限的应用程序服务器。一组通用散列通过用户定义的key来向特定的服务器分配流量,其中可能不包括其他服务器。IP散列锁基于IP地址将流量分配到特定的服务器上。这种操作对于一些无法很好地处理分布式流量的流媒体应用程序是非常有用的,或当对某应用程序同一级别的会话持久性是有益的。然而,基于散列的方法可能会有使部分服务器未充分使用,而另一部分却过载。

最少时间的方法是,通过改变最小连接数,通过最少的当前连接数传递流量到服务器,同时保证了最快的响应时间。为重视性能且需要服务器快速响应的应用程序,或者因地理位置分散而造成不同程度延迟的服务器选择此种方法。最少时间方法同样支持加权权重倾斜的流量分配方法,可塑造计算能力更强大的服务器。

====================================分割线================================

本文转自d1net(转载)

目录
相关文章
|
1月前
|
存储 量子技术
用DPU应用程序实现QRAM
用DPU应用程序实现QRAM
18 1
|
11月前
|
存储 安全 架构师
「无服务器架构」无服务器架构是应用程序的正确选择?需要考虑利弊。
「无服务器架构」无服务器架构是应用程序的正确选择?需要考虑利弊。
|
11月前
|
存储 安全 架构师
「无服务器架构」无服务器架构是应用程序的正确选择?考虑利弊
「无服务器架构」无服务器架构是应用程序的正确选择?考虑利弊
|
12月前
|
监控 安全 Java
RASP技术是应用程序安全的“保护伞”
对于企业组织而言,随着新技术的不断涌现,企业在应用程序和数据安全方面也面临着诸多挑战。ASP通过检查任何隐藏的漏洞并提供对整个应用程序结构的实时可见性来对抗应用程序层内的任何运行时攻击,是应对应用程序安全威胁的有利手段。
223 0
|
SQL XML 架构师
在服务器应用虚拟化中发现价值
在服务器应用虚拟化中发现价值
111 0
在服务器应用虚拟化中发现价值
|
弹性计算 运维 负载均衡
服务器的“服务器”,enginx之于分布式部署的创新意义:使任何服务器程序秒变集群
本文关键字:nginx,元服务器,单机集群,分布式集群,集群引擎
470 0
服务器的“服务器”,enginx之于分布式部署的创新意义:使任何服务器程序秒变集群
|
人工智能 运维 算法