Guava RateLimiter单机实战指南

简介: Guava RateLimiter单机实战指南

欢迎来到我的博客,代码的世界里,每一行都是一个故事

Guava RateLimiter单机实战指南


前言

想象一下你是一位大厨,正在烹饪美味佳肴。突然之间,前来就餐的人潮如潮水般涌入,如果没有明智的限流策略,你可能会被厨房的热潮吞噬。现在,想象Guava的RateLimiter就像是一把魔法调味剂,帮助你在这个数字厨房中优雅地掌握料理节奏。本文将引领你走进这个美食的实战之旅。

maven坐标引入

<dependency>
    <groupId>com.google.guava</groupId>
    <artifactId>guava</artifactId>
    <version>30.1-jre</version> <!-- 使用最新版本 -->
</dependency>

业务实现

import com.google.common.util.concurrent.RateLimiter;
public class RateLimiterExample {
    public static void main(String[] args) {
        // 初始化RateLimiter,设置每秒允许通过的请求数
        double permitsPerSecond = 2.0;
        RateLimiter rateLimiter = RateLimiter.create(permitsPerSecond);
        // 模拟业务场景,请求令牌并处理流量控制
        for (int i = 1; i <= 5; i++) {
            // 请求令牌,如果没有令牌可用,则会被阻塞等待
            double acquireTime = rateLimiter.acquire();
            
            // 处理业务逻辑,此处可以是实际的业务代码
            processRequest(i, acquireTime);
        }
    }
    private static void processRequest(int requestId, double acquireTime) {
        System.out.println("Request " + requestId + " processed. Acquire time: " + acquireTime);
        // 在实际业务场景中,这里可以放置具体的业务逻辑
    }
}

重要参数和方法

Guava的RateLimiter类提供了一些重要的参数和方法,用于设置速率限制以及处理流量控制。以下是其中一些重要的参数和方法:

参数:

  1. permitsPerSecond: 每秒允许通过的请求数,这是通过create方法设置的主要参数。
  2. warmupPeriod: 预热期的时间,即在启动时逐渐增加速率的时间段。

方法:

  1. create(double permitsPerSecond): 静态方法,用于创建一个RateLimiter实例。参数permitsPerSecond表示每秒允许通过的请求数。
RateLimiter rateLimiter = RateLimiter.create(2.0); // 每秒允许通过 2 个请求
  1. create(double permitsPerSecond, long warmupPeriod, TimeUnit timeUnit): 创建一个带有预热期的RateLimiter实例。
RateLimiter rateLimiter = RateLimiter.create(5.0, 1, TimeUnit.MINUTES); // 每秒允许通过 5 个请求,预热期为 1 分钟
  1. acquire(): 请求令牌,如果没有足够的令牌可用,则会阻塞等待。
double acquireTime = rateLimiter.acquire(); // 请求令牌,获取令牌所需的时间
  1. tryAcquire(): 尝试请求令牌,如果没有足够的令牌可用,则立即返回false,而不会阻塞。
boolean acquired = rateLimiter.tryAcquire(); // 尝试请求令牌,如果可用则返回 true
  1. tryAcquire(int permits, long timeout, TimeUnit unit): 尝试请求指定数量的令牌,如果在指定的时间内没有足够的令牌可用,则返回false
boolean acquired = rateLimiter.tryAcquire(2, 500, TimeUnit.MILLISECONDS); // 尝试请求 2 个令牌,等待 500 毫秒
  1. setRate(double permitsPerSecond): 动态设置速率限制。
rateLimiter.setRate(10.0); // 动态设置每秒允许通过的请求数为 10

这些参数和方法允许你根据具体业务需求动态调整速率、处理令牌的获取,并且可以在实际应用中根据需要选择不同的方法和参数。通过理解这些参数和方法,你可以更好地掌握RateLimiter的使用和调优技巧。

关于warmupPeriod实战

warmupPeriodRateLimiter类中的一个重要参数,它表示预热期的时间。预热期是在启动时逐渐增加速率的时间段。在预热期内,RateLimiter会从稳定的冷启动状态逐渐过渡到设定的速率限制,而不是立即达到该限制。这有助于系统更好地适应负载的变化。

下面是一些关键点,重点讲解了warmupPeriod的作用:

  1. 平滑启动: warmupPeriod允许RateLimiter在启动时以一种平滑的方式增加速率。而不是从零到设定的速率立即切换,预热期内RateLimiter逐渐增加速率,使得系统能够更缓慢地适应流量的变化。
  2. 适应突发负载: 在系统冷启动或重新部署时,可能会出现短时间内的突发流量。warmupPeriod使得RateLimiter能够更灵活地适应这些突发负载,而不至于因为过快的速率增加而导致系统过载。
  3. 控制预热速率: warmupPeriod的值越大,预热过程就越慢,RateLimiter逐渐增加速率的过程就越平滑。这允许你根据具体需求控制预热的速率。

下面是一个示例,演示了如何使用warmupPeriod

import com.google.common.util.concurrent.RateLimiter;
import java.util.concurrent.TimeUnit;
public class RateLimiterExample {
    public static void main(String[] args) {
        // 初始化RateLimiter,设置每秒允许通过的请求数和预热期时间
        double permitsPerSecond = 2.0;
        long warmupPeriod = 1; // 预热期为1秒
        RateLimiter rateLimiter = RateLimiter.create(permitsPerSecond, warmupPeriod, TimeUnit.SECONDS);
        // 模拟业务场景,请求令牌并处理流量控制
        for (int i = 1; i <= 5; i++) {
            // 请求令牌,如果没有令牌可用,则会被阻塞等待
            double acquireTime = rateLimiter.acquire();
            
            // 处理业务逻辑,此处可以是实际的业务代码
            processRequest(i, acquireTime);
        }
    }
    private static void processRequest(int requestId, double acquireTime) {
        System.out.println("Request " + requestId + " processed. Acquire time: " + acquireTime);
        // 在实际业务场景中,这里可以放置具体的业务逻辑
    }
}

在这个例子中,RateLimiter的预热期被设置为1秒。在前1秒的预热期内,系统逐渐增加速率,然后在之后的请求中稳定在设定的速率。通过调整warmupPeriod的值,你可以控制预热期的持续时间,以满足系统的实际需求。

相关文章
|
2月前
|
监控 算法
探秘Guava的RateLimiter:单机流量控制的黄金法宝
探秘Guava的RateLimiter:单机流量控制的黄金法宝
39 0
|
2月前
|
消息中间件 NoSQL Java
Java高级开发:高并发+分布式+高性能+Spring全家桶+性能优化
Java高架构师、分布式架构、高可扩展、高性能、高并发、性能优化、Spring boot、Redis、ActiveMQ、Nginx、Mycat、Netty、Jvm大型分布式项目实战学习架构师之路
|
6天前
|
监控 安全 算法
提升编程效率的利器: 解析Google Guava库之RateLimiter优雅限流(十)
提升编程效率的利器: 解析Google Guava库之RateLimiter优雅限流(十)
|
2月前
|
缓存 NoSQL Java
SpringBoot:第五篇 集成Guava(本地缓存+分布式缓存)
SpringBoot:第五篇 集成Guava(本地缓存+分布式缓存)
144 0
|
存储 算法 Java
【分布式技术专题】「分布式技术架构」手把手教你如何开发一个属于自己的限流器RateLimiter功能服务
随着互联网的快速发展,越来越多的应用程序需要处理大量的请求。如果没有限制,这些请求可能会导致应用程序崩溃或变得不可用。因此,限流器是一种非常重要的技术,可以帮助应用程序控制请求的数量和速率,以保持稳定和可靠的运行。
29672 51
|
11月前
|
人工智能 NoSQL Java
SpringBoot实战(十七):Redis Pipeline 轻松实现百倍性能提升(续)
SpringBoot实战(十七):Redis Pipeline 轻松实现百倍性能提升(续)
246 0
|
缓存 算法 Java
【Java技术指南】「并发编程专题」Guava RateLimiter针对于限流器的入门到精通(含实战和原理分析)
【Java技术指南】「并发编程专题」Guava RateLimiter针对于限流器的入门到精通(含实战和原理分析)
123 0
【Java技术指南】「并发编程专题」Guava RateLimiter针对于限流器的入门到精通(含实战和原理分析)
|
存储 算法 Java
【Java技术指南】「并发编程专题」Guava RateLimiter针对于限流器的入门到精通(含源码分析介绍)
【Java技术指南】「并发编程专题」Guava RateLimiter针对于限流器的入门到精通(含源码分析介绍)
112 0
【Java技术指南】「并发编程专题」Guava RateLimiter针对于限流器的入门到精通(含源码分析介绍)
|
算法 Java
【Java技术开发专题】系列之「Guava RateLimiter」针对于限流器的入门到实战(含源码分析介绍)
【Java技术开发专题】系列之「Guava RateLimiter」针对于限流器的入门到实战(含源码分析介绍)
211 0
【Java技术开发专题】系列之「Guava RateLimiter」针对于限流器的入门到实战(含源码分析介绍)
|
存储 缓存 NoSQL
详解Redisson分布式限流的实现原理
我们目前在工作中遇到一个性能问题,我们有个定时任务需要处理大量的数据,为了提升吞吐量,所以部署了很多台机器,但这个任务在运行前需要从别的服务那拉取大量的数据,随着数据量的增大,如果同时多台机器并发拉取数据,会对下游服务产生非常大的压力。之前已经增加了单机限流,但无法解决问题,因为这个数据任务运行中只有不到10%的时间拉取数据,如果单机限流限制太狠,虽然集群总的请求量控制住了,但任务吞吐量又降下来
385 0