负载均衡计算公式

简介: 1.设计网站初期   假设网站有6w个动态内容处于频繁访问的状态,通过Cache-Control将它的反向代理服务器上的缓存有效期都设置成60秒,这样后端服务器必须承受最多每秒处理1000个动态内容的工作量,如果这些动态内容都进行完整的计算(例如访问数据库),那么后端压力很大,我们可以设置缓存有效期延长到300秒(5分钟)这样后端每秒只处理200个动态内容。

1.设计网站初期

   假设网站有6w个动态内容处于频繁访问的状态,通过Cache-Control将它的反向代理服务器上的缓存有效期都设置成60秒,这样后端服务器必须承受最多每秒处理1000个动态内容的工作量,如果这些动态内容都进行完整的计算(例如访问数据库),那么后端压力很大,我们可以设置缓存有效期延长到300秒(5分钟)这样后端每秒只处理200个动态内容。

   计算公式  每秒总共访问的动态内容数/缓存有效期 = 后端每秒处理的动态内容数

 

2. 缓存命中率和后端吞吐率的理想计算模型

先假设三个条件

1.缓冲区的空间足够大,那么缓存永远不会因为空间已满而被淘汰,除非到达缓存有效期后主动离开。

2.站点拥有一定数目的活跃内容,而这么内容都可以被反向代理缓存,同时我们假设一个平均缓存有效期

3.以上活跃内容在每个缓存有效周期内至少被访问一次

 

涉及到的几个变量

1.活跃内容数

2.实际吞吐率

3.平均缓存有效期

 

缓存有效周期内的实际请求次数为

 

一个缓存有效周期内的实际请求次数 = 实际吞吐率 X 平均缓存有效期

 

缓存丢失率

缓存丢失率 = (活跃内容数 / (实际吞吐率 X 平均缓存有效期)) X 100%

 

缓存命中率

缓存命中率 = 1 - (活跃内容数 / (实际吞吐率 X 平均缓存有效期)) X 100%

 

例子:

假设站点有1个活跃内容,即是index.htm,实际吞吐率为10reqs/s,我们把反向代理缓存有效期设置为10秒,那么缓存命中率为

 

缓存命中率 = 1 - (1/(10X10)) X 100% = 99%

 

后端吞吐率为

后端吞吐率 = 活跃内容数 / 平均缓存有效期

 

例如后端吞吐率 = 1/10 = 0.1reqs/s

 

缓存命中率 = 1 - (后端吞吐率 / 实际吞吐率)) X 100%

后端吞吐率 = (1 - 缓存命中率) X 实际吞吐率

 

结论:

1.活跃内容数和平均缓存有效期一定的情况下,缓存命中率和实际吞吐率成正比

2.实际吞吐率和平均缓存有效期一定的情况下,缓存命中率和活跃内容数成反比

3.活跃内容数和实际吞吐率一定的情况下,缓存命中率和平均缓存有效期成正比

4.活跃内容数一定的情况下,后端吞吐率与平均缓存有效期成反比

5.平均缓存有效期一定的情况下,后端吞吐率和活跃内容数成正比

6.缓存命中率的变化不一定会影响后端吞吐率

7.后端吞吐率的变化不一定会影响缓存命中率

相关实践学习
部署高可用架构
本场景主要介绍如何使用云服务器ECS、负载均衡SLB、云数据库RDS和数据传输服务产品来部署多可用区高可用架构。
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
目录
相关文章
|
4天前
|
负载均衡 算法 调度
负载均衡原理及算法
负载均衡原理及算法
9 1
|
19天前
|
弹性计算 负载均衡 算法
负载均衡调度算法
负载均衡调度算法介绍
27 2
|
3月前
|
弹性计算 负载均衡 算法
负载均衡调度算法介绍
介绍负载均衡调度算法
101 8
|
8月前
|
消息中间件 负载均衡 Java
常见的负载均衡策略有哪些?
常见的负载均衡策略有哪些?
912 3
|
4月前
|
负载均衡 算法 Serverless
负载均衡策略
负载均衡策略
43 0
|
9月前
|
存储 负载均衡 算法
负载均衡算法
负载均衡算法
110 0
|
缓存 负载均衡 网络协议
负载均衡各种策略介绍
负载均衡各种策略介绍
237 0
负载均衡各种策略介绍
|
缓存 负载均衡 算法
一致性Hash在负载均衡中的应用
一致性Hash是一种特殊的Hash算法,由于其均衡性、持久性的映射特点,被广泛的应用于负载均衡领域,如nginx和memcached都采用了一致性Hash来作为集群负载均衡的方案。本文将介绍一致性Hash的基本思路,并讨论其在分布式缓存集群负载均衡中的应用。同时也会进行相应的代码测试来验证其算法特性,并给出和其他负载均衡方案的一些对比。
一致性Hash在负载均衡中的应用
|
负载均衡 算法 Serverless
负载均衡算法
负载均衡算法
180 1
|
tengine 负载均衡 算法
彻底揭秘负载均衡算法与实现!深入剖析负载均衡核心(上)
彻底揭秘负载均衡算法与实现!深入剖析负载均衡核心
102 0