高并发架构分析
如何提升系统的并发能力?
• 互联网分布式架构设计，提高系统并发能力的方式，方法论上主要有两种：垂直扩展（Scale
Up）与水平扩展（Scale Out）。
• 垂直扩展：提升单机处理能力。垂直扩展的方式又有两种。
• 增强单机硬件性能
• 提升单机架构性能
在互联网业务发展非常迅猛的早期，如果预算不是问题，强烈建议使用“增强单机硬件性能”的
方式提升系统并发能力，因为这个阶段，公司的战略往往是发展业务抢时间，而“增强单机硬件性
能”往往是最快的方法。
不管是提升单机硬件性能，还是提升单机架构性能，都有一个致命的不足：单机性能总是有极限
的。所以互联网分布式架构设计高并发终极解决方案还是水平扩展。
水平扩展：只要增加服务器数量，就能线性扩充系统性能。
高并发下Nginx配置限流
三种方式实现：
• limit_conn_zone
• limit_req_zone
• ngx_http_upstream_module
前两种只能对客户端（即单一ip限流）
Ab工具：
• Centos安装：yum install httpd-tools –y
• 测试：ab -c 10 -n 1000 http://www.test.com/
2高并发下Nginx配置限流
• limit_conn_zone
http{
limit_conn_zone $binary_remote_addr zone=one:10m;
server
{
......
limit_conn one 10;
......
}
}
• 其中“limit_conn one 10”既可以放在server层对整个server有效，也可以放在location中只对单独的location有效
• 该配置表明：客户端的并发连接数只能是10个。
• limit_req_zone
http{
limit_req_zone $binary_remote_addr zone=req_one:10m rate=1r/s;
server
{
......
limit_req zone=req_one burst=120;
......
}
}
• 其中“limit_req zone=req_one burst=120”既可以放在server层对整个server有效，也可以放在location中只对单独的location有
效
• rate=1r/s的意思是每个地址每秒只能请求一次，也就是说令牌桶burst=120一共有120块令牌，并且每秒钟只新增1块令牌，120块令
牌发完后，多出来的请求就会返回503
ngx_http_upstream_module(推荐)
upstream xxxx{
server 127.0.0.1:8080 max_conns=10;
server 127.0.0.1:8081 max_conns=10;
}
• 该模块是提供了我们需要的后端限流功能的
• 该模块有一个参数：max_conns可以对服务端进行限流，可惜在商业版nginx中才能使用
• 在nginx1.11.5版本以后，官方已经将该参数从商业版中脱离出来了，也就是说只要我们将生产
上广泛使用的nginx1.9.12版本和1.10版本升级即可使用
