问题背景:生产上有一个服务频繁被访问,导致tomcat内存溢出,报OOM。
解决方案:因为所有请求采用了nginx转发,考虑先使用nginx进行请求的限制,以下为在学习配置中的理解。
关于针对nginx代理的8878服务进行限流的参数设置如下:
1.基于IP的限流配置:即针对所有访问nginx中配置的ip服务的请求进行限制。
rate = 5r/s: 表示每秒放行五个请求。
burst=5:设置一个缓冲区域,当大量请求过来,即请求数量超过限流频率时,放入缓冲区域,这里可以缓冲2个请求。
2.基于server级别的限流:即针对同一个服务器发来的请求,对此服务器进行限流。
rate = 1r/s: 表示每秒放行一个请求。
burst=2: 缓冲区域,缓冲2个请求。
3.基于连接数的限流:针对某个IP或某个server,在指定的时间内,只允许server最多保持指定数量的连接接入。
limit_conn perserver 5:每个server最多可以允许5个连接
limit_conn perip 5:每个代理的IP地址最多允许5个连接
以上三种策略可以同时配置。
rate:用于设置最大访问速率,rate=10r/s 表示每秒最多处理10个请求。Nginx 实际上以毫秒为粒度来跟踪请求信息,因此 10r/s 实际上是限制:每100毫秒处理一个请求。这意味着,自上一个请求处理完后,若后续100毫秒内又有请求到达,将拒绝处理该请求。
参考文章:
JAVA限流之 —— NGINX限流 : Java限流之 —— Nginx限流 - 灰信网(软件开发博客聚合)
如何使用 Nginx 优雅地限流?:如何使用 Nginx 优雅地限流?_Java技术栈的博客-CSDN博客