亿级流量架构理论+秒杀实战系列(三)

简介: 亿级流量架构理论+秒杀实战系列(三)

亿级用户的请求分层过滤模型

请求处理模型

直筒型

直筒型请求处理模型,指的是用户请求 1:1 的洞穿到db层,如下图所示。在比较简单的业务中,才会采用这个模型。

传统的低并发、低性能、低可用项目。

直筒型请求处理模型的适用场景:

企业级应用。

特点:

1. 用户规模较小

2. 请求峰值和平均值相差不大

3. 请求峰值不会超过数据层的处理能力

漏斗型

漏斗型业务,指的是,用户的请求,从客户端到 db层,层层递减,递减的程度视业务而定。例如当 10w 人去抢100个物品时,db层的请求在个位数量级 1000以内,这就是比较理想的模型。

693e423dc198cf1cf14d15f9d94af655.png

漏斗型请求处理模型的适用场景:

互联网应用(如秒杀)

特点:

1. 用户规模大

2. 请求峰值和平均值相差巨大

3. 请求峰值远远超出最后一层(数据层)的处理能力

漏斗模型中的请求分层过滤

漏斗型请求处理模型的核心策略,对请求进行分层过滤。

而针对漏斗型请求处理模型(如秒杀场景)一 种核心策略,就是对请求进行分层过滤,从而过滤掉一些无效的请求。

a4fbdae6d5828ac70368fca226ad6086.png

案例:秒杀系统的分层过滤

比如,在秒杀系统中,请求分别经过 CDN、Nginx(商品详情)、微服务(如seckill)和数据库这几层,那么:

1 大部分数据和流量在用户浏览器或者 CDN上获取,这一层可以拦截大部分静态资源的读取;

2、经过第二层 Nginx(商品详情)时,尽量得走 Nginx Cache,过滤一些可以直接访问Nginx缓存的 请求;经过第二层 Nginx(商品详情)时,也可以进行流控,还可以进行黑名单过滤,拦截掉一些无效的流量;

3、再到服务层,进入微服务网关时,可以做用户的授权检验,对系统做好保护和限流,这样数据量和请求就进一步减少;

4、业务层,还可以进行数据的有效性、一致性过滤,这里又减少了一些流量。这样就像漏斗一样,尽量把数据量和请求量一层一层地过滤和减少了。

分层过滤的核心思想是:在不同的层次尽可能地过滤掉无效请求,让“漏斗”最末端的才是有效 请求。而要达到这种效果,我们就必须对数据做分层的校验。

写入操作的流量削峰方案(降级方案)

削峰从本质上来说,就是更多地延缓用户请求,以及层层过滤用户的访问需求,遵从【最后落地到数据 库的请求数要尽量少】的原则。

同步的直接调用转换成异步的间接推送

要对流量进行削峰,最容易想到的解决方案就是用消息队列来缓冲瞬时流量,把同步的直接调用转换成 异步的间接推送,中间通过一个队列在一端承接瞬时的流量洪峰,在另一端平滑地将消息推送出去。

消息队列中间件主要解决应用耦合、异步消息、流量削峰等问题。常用的消息队列系统有ActiveMQ、 RabbitMQ、ZeroMQ、Kafka、Me'taMQ和RocketMQ等。

在这里,消息队列就像是水库一样,拦截上游的洪水,削减进下游河道的洪峰流量,从而达到减免洪水灾害的目的。

分层限流:防止系统雪崩的无奈策略

分层限流:接入层、服务层 限流,根据各层的能力,对系统进行保护
相关文章
|
1月前
|
人工智能 监控 前端开发
支付宝 AI 出行助手高效研发指南:4 人团队的架构迁移与提效实战
支付宝「AI 出行助手」是一款集成公交、地铁、火车票、机票、打车等多项功能的智能出行产品。
306 21
支付宝 AI 出行助手高效研发指南:4 人团队的架构迁移与提效实战
|
1月前
|
消息中间件 Java Kafka
Java 事件驱动架构设计实战与 Kafka 生态系统组件实操全流程指南
本指南详解Java事件驱动架构与Kafka生态实操,涵盖环境搭建、事件模型定义、生产者与消费者实现、事件测试及高级特性,助你快速构建高可扩展分布式系统。
157 7
|
1月前
|
监控 Java API
Spring Boot 3.2 结合 Spring Cloud 微服务架构实操指南 现代分布式应用系统构建实战教程
Spring Boot 3.2 + Spring Cloud 2023.0 微服务架构实践摘要 本文基于Spring Boot 3.2.5和Spring Cloud 2023.0.1最新稳定版本,演示现代微服务架构的构建过程。主要内容包括: 技术栈选择:采用Spring Cloud Netflix Eureka 4.1.0作为服务注册中心,Resilience4j 2.1.0替代Hystrix实现熔断机制,配合OpenFeign和Gateway等组件。 核心实操步骤: 搭建Eureka注册中心服务 构建商品
368 3
|
1月前
|
消息中间件 Java 数据库
Java 基于 DDD 分层架构实战从基础到精通最新实操全流程指南
本文详解基于Java的领域驱动设计(DDD)分层架构实战,结合Spring Boot 3.x、Spring Data JPA 3.x等最新技术栈,通过电商订单系统案例展示如何构建清晰、可维护的微服务架构。内容涵盖项目结构设计、各层实现细节及关键技术点,助力开发者掌握DDD在复杂业务系统中的应用。
317 0
|
2月前
|
存储 设计模式 人工智能
AI Agent安全架构实战:基于LangGraph的Human-in-the-Loop系统设计​
本文深入解析Human-in-the-Loop(HIL)架构在AI Agent中的核心应用,探讨其在高风险场景下的断点控制、状态恢复与安全管控机制,并结合LangGraph的创新设计与金融交易实战案例,展示如何实现效率与安全的平衡。
398 0
|
29天前
|
机器学习/深度学习 算法 文件存储
神经架构搜索NAS详解:三种核心算法原理与Python实战代码
神经架构搜索(NAS)正被广泛应用于大模型及语言/视觉模型设计,如LangVision-LoRA-NAS、Jet-Nemotron等。本文回顾NAS核心技术,解析其自动化设计原理,探讨强化学习、进化算法与梯度方法的应用与差异,揭示NAS在大模型时代的潜力与挑战。
267 6
神经架构搜索NAS详解:三种核心算法原理与Python实战代码
|
18天前
|
JSON 供应链 监控
1688商品详情API技术深度解析:从接口架构到数据融合实战
1688商品详情API(item_get接口)可通过商品ID获取标题、价格、库存、SKU等核心数据,适用于价格监控、供应链管理等场景。支持JSON格式返回,需企业认证。Python示例展示如何调用接口获取商品信息。
|
2月前
|
缓存 人工智能 监控
1688 平台商品详情接口技术揭秘:架构演进与实战优化
本文深入解析了1688商品详情接口的技术架构与核心实现,涵盖微服务拆分、多级缓存、数据聚合及高可用策略,展示了如何构建高性能电商接口系统,并展望AI技术在商品展示中的应用。
|
2月前
|
缓存 监控 数据安全/隐私保护
京东平台商品详情接口技术解密:高性能架构与实战经验
本文深入解析京东商品详情接口技术架构,涵盖微服务设计、多级缓存、异步加载及数据一致性保障等关键策略,分享高并发场景下的性能优化实践,助力电商系统稳定高效运行。