滑动窗口限流

简介: 滑动窗口限流

1、需求

限定用户的某个行为在指定时间T内,只允许发生N次。假设T为1秒钟,N为1000次。

2、常见的错误设计

程序员设计了一个在每分钟内只允许访问1000次的限流方案,如下图01:00s-02:00s之间只允许访问1000次,这种设计最大的问题在于,请求可能在01:59s-02:00s之间被请求1000次,02:00s-02:01s之间被请求了1000次,这种情况下01:59s-02:01s间隔0.02s之间被请求2000次,很显然这种设计是错误的。

3、滑动窗口算法

3.1 解决方案

指定时间T内,只允许发生N次。我们可以将这个指定时间T,看成一个滑动时间窗口(定宽)。我们采用Redis的zset基本数据类型的score来圈出这个滑动时间窗口。在实际操作zset的过程中,我们只需要保留在这个滑动时间窗口以内的数据,其他的数据不处理即可。

  • 每个用户的行为采用一个zset存储,score为毫秒时间戳,value也使用毫秒时间戳(比UUID更加节省内存)
  • 只保留滑动窗口时间内的行为记录,如果zset为空,则移除zset,不再占用内存(节省内存)

3.2 pipeline代码实现

代码的实现的逻辑是统计滑动窗口内zset中的行为数量,并且与阈值maxCount直接进行比较就可以判断当前行为是否被允许。这里涉及多个redis操作,因此使用pipeline可以大大提升效率

package com.lizba.redis.limit;


import redis.clients.jedis.Jedis;

import redis.clients.jedis.Pipeline;

import redis.clients.jedis.Response;


/**

* <p>

*     通过zset实现滑动窗口算法限流

* </p>

*

* @Author: Liziba

* @Date: 2021/9/6 18:11

*/

public class SimpleSlidingWindowByZSet {


   private Jedis jedis;


   public SimpleSlidingWindowByZSet(Jedis jedis) {

       this.jedis = jedis;

   }


   /**

    * 判断行为是否被允许

    *

    * @param userId        用户id

    * @param actionKey     行为key

    * @param period        限流周期

    * @param maxCount      最大请求次数(滑动窗口大小)

    * @return

    */

   public boolean isActionAllowed(String userId, String actionKey, int period, int maxCount) {

       String key = this.key(userId, actionKey);

       long ts = System.currentTimeMillis();

       Pipeline pipe = jedis.pipelined();

       pipe.multi();

       pipe.zadd(key, ts, String.valueOf(ts));

       // 移除滑动窗口之外的数据

       pipe.zremrangeByScore(key, 0, ts - (period * 1000));

       Response<Long> count = pipe.zcard(key);

       // 设置行为的过期时间,如果数据为冷数据,zset将会删除以此节省内存空间

       pipe.expire(key, period);

       pipe.exec();

       pipe.close();

       return count.get() <= maxCount;

   }



   /**

    * 限流key

    *

    * @param userId

    * @param actionKey

    * @return

    */

   public String key(String userId, String actionKey) {

       return String.format("limit:%s:%s", userId, actionKey);

   }


}

测试代码:

package com.lizba.redis.limit;


import redis.clients.jedis.Jedis;


/**

*

* @Author: Liziba

* @Date: 2021/9/6 20:10

*/

public class TestSimpleSlidingWindowByZSet {


   public static void main(String[] args) {

       Jedis jedis = new Jedis("192.168.211.108", 6379);

       SimpleSlidingWindowByZSet slidingWindow = new SimpleSlidingWindowByZSet(jedis);

       for (int i = 1; i <= 15; i++) {

           boolean actionAllowed = slidingWindow.isActionAllowed("liziba", "view", 60, 5);


           System.out.println("第" + i +"次操作" + (actionAllowed ? "成功" : "失败"));

       }


       jedis.close();

   }


}

测试效果:

从测试输出的数据可以看出,起到了限流的效果,从第11次以后的请求操作都是失败的,但是这个和我们允许的5次误差还是比较大的。这个问题的原因是我们测试System.currentTimeMillis()的毫秒可能相同,而且此时value也是System.currentTimeMillis()也相同,会导致zset中元素覆盖!

修改代码测试:

在循环中睡眠1毫秒即可,测试结果符合预期!

TimeUnit.MILLISECONDS.sleep(1);


3.3 lua代码实现

我们在项目中使用原子性的lua脚步来实现限流的使用会更多,因此这里也提供一个基于操作zset的lua版本

package com.lizba.redis.limit;


import com.google.common.collect.ImmutableList;

import redis.clients.jedis.Jedis;

import redis.clients.jedis.Pipeline;

import redis.clients.jedis.Response;


/**

* <p>

*     通过zset实现滑动窗口算法限流

* </p>

*

* @Author: Liziba

* @Date: 2021/9/6 18:11

*/

public class SimpleSlidingWindowByZSet {


   private Jedis jedis;


   public SimpleSlidingWindowByZSet(Jedis jedis) {

       this.jedis = jedis;

   }


   /**

    * lua脚本限流

    *

    * @param userId

    * @param actionKey

    * @param period

    * @param maxCount

    * @return

    */

   public boolean isActionAllowedByLua(String userId, String actionKey, int period, int maxCount) {

       String luaScript = this.buildLuaScript();


       String key = key(userId, actionKey);

       long ts = System.currentTimeMillis();

       System.out.println(ts);

       ImmutableList<String> keys = ImmutableList.of(key);

       ImmutableList<String> args = ImmutableList.of(String.valueOf(ts),String.valueOf((ts - period * 1000)), String.valueOf(period));

       Number count = (Number) jedis.eval(luaScript, keys, args);


       return count != null && count.intValue() <= maxCount;

   }



   /**

    * 限流key

    *

    * @param userId

    * @param actionKey

    * @return

    */

   private String key(String userId, String actionKey) {

       return String.format("limit:%s:%s", userId, actionKey);

   }



   /**

    * 针对某个key使用lua脚本限流

    *

    * @return

    */

   private String buildLuaScript() {

       return "redis.call('ZADD', KEYS[1], tonumber(ARGV[1]), ARGV[1])" +

               "\nlocal c" +

               "\nc = redis.call('ZCARD', KEYS[1])" +

               "\nredis.call('ZREMRANGEBYSCORE', KEYS[1], 0, tonumber(ARGV[2]))" +

               "\nredis.call('EXPIRE', KEYS[1], tonumber(ARGV[3]))" +

               "\nreturn c;";


   }


}

测试代码不变,大家可以自行测试,记得还是要考虑我们测试的时候System.currentTimeMillis()相等的问题,不信你输出System.currentTimeMillis()就知道了!多思考问题,技术其实都在心里!

目录
相关文章
|
NoSQL Java Redis
SpringBoot 配置Redis操作
SpringBoot 配置Redis操作
371 0
|
10月前
|
Cloud Native 关系型数据库 分布式数据库
阿里云位居 IDC MarketScape 中国分布式事务型数据库领导者类别
国际权威市场研究机构IDC发布《IDC MarketScape:中国分布式事务型数据库2025 年厂商评估 》(Doc#CHC53000025,2025年11月)报告显示,阿里云再次被定位为“领导者”类别,位居第一阵营。作为阿里云瑶池旗下的云原生数据库PolarDB分布式版本,PolarDB-X 凭借突出的产品战略,在“战略发展能力”中排名首位。同时,在营收规模方面,阿里云也取得显著的领先优势,全面领跑中国分布式数据库市场,充分印证了PolarDB在技术创新、市场拓展及客户服务方面的卓越实力。
|
4月前
|
NoSQL Java 关系型数据库
吐血整理:2026大厂后端技术岗笔面试高频100题
本文揭秘2026大厂后端面试新趋势:题库未变,但考法剧变——从死记硬背转向考察源码理解、线上排障与设计权衡三大能力。通过真实案例对比与可落地的准备方法,帮你告别无效刷题,直击面试官真实意图。
|
12月前
|
存储 缓存 JSON
商品图片批量上传接口设计与实现
本文介绍如何使用Python Flask实现商品图片批量上传接口,涵盖设计、验证、存储及错误处理。支持多文件上传、格式大小校验,并提供完整代码与性能优化方案,助力电商或CMS系统高效管理图片。
|
XML 缓存 算法
SpringBoot2 | SpingBoot FilterRegistrationBean 注册组件 | FilterChain 责任链源码分析(九)
SpringBoot2 | SpingBoot FilterRegistrationBean 注册组件 | FilterChain 责任链源码分析(九)
527 0
|
消息中间件 Java Kafka
如何在Java中实现实时数据同步与更新
如何在Java中实现实时数据同步与更新
|
NoSQL 安全 Redis
【Redis异常】redis.clients.jedis.exceptions.JedisDataException: ERR Client sent AUTH, but no password
【Redis异常】redis.clients.jedis.exceptions.JedisDataException: ERR Client sent AUTH, but no password
1264 0
|
存储 缓存 C++
C++番外篇——list与vector的比较
C++番外篇——list与vector的比较
433 0
|
缓存 监控 中间件
中间件配置和管理问题
【7月更文挑战第14天】
496 1