这么秀的操作我竟然到现在才了解到?合并请求~

简介: 在几年前,我就看到过有些博客写关于合并请求的文章,一开始我没有太在意,最近在看一个up讲述关于商品模块的牛X设计,为了提高高并发的处理能力,一般会用redis 自增自减来实现库存扣减,但是他采用合并扣减库存,也就是同一时间n个扣减库存会合并成一个请求,这样无疑减少了IO次数,也提高系统性能

前言


在几年前,我就看到过有些博客写关于合并请求的文章,一开始我没有太在意,最近在看一个up讲述关于商品模块的牛X设计,为了提高高并发的处理能力,一般会用redis 自增自减来实现库存扣减,但是他采用合并扣减库存,也就是同一时间n个扣减库存会合并成一个请求,这样无疑减少了IO次数,也提高系统性能。然后今天我看淘系有篇文章讲述 怎么提高自己的系统架构水平,里面也提到合并更新操作

image.png

🐱那么这么秀的操作,真的不尝试下吗?Let's do it~

合并请求的目的


Why

A:你是否有遇到过类似场景,需要插入数据库很多很多条数据,那我们怎么优化?还有多个redis key请求的时候,如果我们每次都去拿到连接调用,可以发现时间会比较长,那怎么处理的?MQ场景,我们有一批的消息需要发送,是不是一个一个去投递?

答案是NO,我们会批量去处理这些任务,减少IO次数,其次批量处理可以减少往返网络通讯时间提高效率

通过简单demo感受下


秉着没吃过猪肉,也见过猪跑的想法,我们参照别人的思路:Future来实现异步调用,等到批量处理结果出来之后再返回。

11447e13de124d7698d51b6e68674cc8~tplv-k3u1fbpfcp-watermark.image

show me your code


  1. 我们先想象下,需要什么变量,合并请求是随意合并吗? 答案当然不是,那么我们是将一段时间内的请求进行合并

    那么需要一个标识来表示是否符合这段时间,或者算法。比如说一秒内,都是这个需要合并请求的范围。下面就用i来计数,需求:比如说超过2个并发,我们就需要合并请求了

  2. 其次我们是不是要收集所有请求的对象,还有请求处理完,我们是不是要查询处理结果集,这样我们才好返回数据。所以加上LinkedList来缓存这一时刻的请求实体,以及使用set数据结构来模拟数据库db或者其他缓存处理结果的地方。

//某一时间段并发数量,可能1秒内
static int i = 0;

//这个一时刻的处理操作的队列
LinkedList<String> list = new LinkedList<>();

//可以代替DB,或者处理结果缓存地方
Set<String> set = new HashSet<>();
  1. 我们需要模拟一个业务处理器,定时执行list列表的任务,然后把结果丢到set结果集里头
CompletableFuture.runAsync(() -> {
    while (true) {
        if(!list.isEmpty()){
            Collections.shuffle(list);
            set.addAll(list);
            list.clear();
        }

    }
});
  1. 模拟并发合并请求操作
@GetMapping("firstRequest")
public boolean firstRequest() throws InterruptedException, ExecutionException, TimeoutException {
    //假设firstRequest,secondRequest同一个时间进来的
    i++;

    Thread.sleep(2000);
    if (i > 1) {
        list.add("firstRequest");
    }

    return CompletableFuture.supplyAsync(() -> {
        int i1 = 0;
        while (true) {
            i1++;
            if (i1 > 5) {
                return false;
            }
            if (set.remove("firstRequest")) {
                return true;
            }
            try {
                Thread.sleep(1000);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
    }).get();
}

@GetMapping("secondRequest")
public boolean secondRequest() throws ExecutionException, InterruptedException, TimeoutException {
    i++;
    if (i > 1) {
        list.add("secondRequest");
    }

    return CompletableFuture.supplyAsync(() -> {
        int i1 = 0;
        while (true) {
            i1++;
            if (i1 > 5) {
                return false;
            }
            if (set.remove("secondRequest")) {
                return true;
            }
            try {
                Thread.sleep(1000);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
    }).get();
}
920560ee5dab49f0a0d712f70b08a008~tplv-k3u1fbpfcp-watermark.image?

🙋‍♂️ 我们看下第一个请求跟第二个请求,都做了啥操作?

首先第一个请求,会给i+1,代表当前时间段的计算器请求+1,然后等待一段时间,其实是为了,等第二个请求访问,让计算器达到并发等于2的场景。

然后分别将第一个跟第二个任务丢到list请求列表里头,然后我们异步任务去模拟业务处理,然后将处理结果丢到set结果返回集合中。请求通过future来定时请求返回结果,尝试5次,如果在这5次里头有结果,返回true。如果没有,则返回false。

到此我们代码实现完成了合并请求的逻辑。

合并请求的弊端


通过上面的例子,相信读者也看到有很多处等待重试拿数据的过程,比如说等待结果返回。

这个弊端都凸显出来了,如果数据量很大或者需要处理的任务很多的情况下,大家都在等待,那么服务器的资源一直被消耗,连接也会殆尽

所以,我们需要有个合理的过期时间,比如说超过多少秒,请求的线程就不再等待直接返回超时,然后有补偿机制再次去查询处理结果。

相关文章
|
5月前
|
运维 Serverless 数据处理
函数计算产品使用问题之遇到生成没有反应、中止也不行,以及刷新后队列积累的问题,该怎么办
函数计算产品作为一种事件驱动的全托管计算服务,让用户能够专注于业务逻辑的编写,而无需关心底层服务器的管理与运维。你可以有效地利用函数计算产品来支撑各类应用场景,从简单的数据处理到复杂的业务逻辑,实现快速、高效、低成本的云上部署与运维。以下是一些关于使用函数计算产品的合集和要点,帮助你更好地理解和应用这一服务。
|
2月前
|
SQL Java 关系型数据库
删除几条数据怎么搞
删除几条数据怎么搞
|
3月前
|
程序员 开发工具 git
Git提交错了?别慌,学会直接删除提交记录
【8月更文挑战第7天】在日常的开发工作中,使用Git进行版本控制几乎是每位程序员的必修课。然而,即使是经验丰富的开发者,也难免会遇到“哎呀,我不小心提交了一些不该提交的内容!”的尴尬时刻。面对这样的错误,不必惊慌失措,Git提供了强大的功能来帮助我们修正这些错误,包括直接删除错误的提交记录。
309 0
|
存储 搜索推荐 NoSQL
抖音是怎么做到不重复推荐内容呢?
抖音是怎么做到不重复推荐内容呢?
|
定位技术
后端一次性返回几百万条数据怎样处理
后端一次性返回几百万条数据怎样处理
|
前端开发 NoSQL Redis
案例05-将不必要的逻辑放到前端(发送调查问卷)
案例05-将不必要的逻辑放到前端(发送调查问卷)
|
NoSQL 关系型数据库 MySQL
学习笔记 | 使用增强版 singleflight 合并事件推送,效果炸裂
学习笔记 | 使用增强版 singleflight 合并事件推送,效果炸裂
135 0
|
存储 消息中间件 JavaScript
接口请求合并的3种技巧,性能直接爆表!
接口请求合并的3种技巧,性能直接爆表!
|
JavaScript 开发者
get方式提交新闻防止新闻被覆盖掉(补充说明)|学习笔记
快速学习 get 方式提交新闻防止新闻被覆盖掉(补充说明)
get方式提交新闻防止新闻被覆盖掉(补充说明)|学习笔记
|
JSON JavaScript 数据格式
get 方式提交新闻防止新闻被覆盖掉|学习笔记
快速学习 get 方式提交新闻防止新闻被覆盖掉
get 方式提交新闻防止新闻被覆盖掉|学习笔记