架构动静分离和分布式阶段——阿里云 MVP乔锐杰

本文涉及的产品
对象存储 OSS,OSS 加速器 50 GB 1个月
简介: 乔锐杰,上海驻云运维总监,江湖人称“乔帮主”。本文是乔帮主在阿里云的直播中分享《阿里云千万级架构的构建——架构的成长演变之路》的第三部分。

乔帮主的直播内容经精炼整理、分以下5篇:
一、分享介绍&架构三原则
二、云架构、架构的原始阶段和基础阶段
三、架构动静分离和分布式阶段
四、架构数据缓存阶段和两个维度拓展阶段
五、架构微服务阶段

架构动静分离阶段:静态缓存 + 对象存储阶段

image.png

当访问压力达到100万PV到300万PV的时候,我们看到前端web服务出现性能瓶颈。大量的web请求被堵塞,同时服务器的CPU、磁盘IO、带宽都有压力,尤其是带宽压力。这时候我们一方面将网站图片、js、css、html及应用服务相关的文件存储在oss中进行静态资源集中管理,另外一方面通过CDN将静态资源分布式缓存在各个节点实现“就近访问”。通过将动态请求、静态请求的访问分离(也就是“动静分离”),有效解决了服务器在磁盘IO、带宽方面的访问压力。那这阶段采用的云产品,相比上阶段,主要增加了CDN和OSS。 

值得注意的是,CDN可以直接进行动静请求分离,但在此阶段用户量规模的架构中,可能很多人觉得甚至没必要用OSS。但我还是建议将静态资源采用独立的二级域名集中部署在OSS中,方便后续架构扩展,也是方便CDN回源请求加速。当然如若业务方面没有未来扩展的考虑等,直接采用CDN是最高效省事的做法。

架构动静分离阶段有两个技术特点:
第一点,动静分离其实是静态请求和动态请求的解耦。

第二点,CDN被誉为互联网高速公路的最后一公里。特别在电商等Web领域应用广泛,我们知道,电商业务中有大量的商品图片的静态资源,所以在电商类应用中几乎都会必选CDN,都说没有CDN的电商不是好电商。
接着进入架构分布式阶段:负载均衡。

架构分布式阶段:负载均衡

image.png

当访问压力达到300万PV到500万PV的时候,虽然“动静分离”有效分离了静态请求的压力,但是动态请求的压力已经让服务器”吃不消”。最直观的现象是,前端访问堵塞、延迟、服务器进程增多、CPU100%,并且出现常见的502/503/504的错误码。显然单台 Web服务器已经满足不了需求,这里需要通过负载均衡技术增加多台 Web服务器,进一步保障业务的性能和高可用。负载均衡的加入,从而告别了单机的时代,转变分布式架构的阶段。

那在这个架构阶段采用的云产品,如左边架构图所示,相比上阶段,主要增加了SLB。此阶段的架构中,值得注意的是,采用七层SLB虽然可以满足绝大数Web应用场景。但在高并发场景下,我们优先考虑使用四层的SLB提高性能。虽然四层SLB在稳定性和性能会比七层要好,但是会带来运维配置管理工作量。

此阶段的技术特点主要有两点:
第一点,负载均衡是分布式架构的起点。云计算的普及,其实也是分布式架构的普及。值得注意的是,分布式架构是集群架构的演变,有很多人把传统的集群架构和分布式架构混为一谈,这是很大的误区。集群的虚拟VIP技术只能让一台服务器平时作为Backup热备,只有在故障的时候,才会切换到Backup上让其顶上,平时都是空闲状态。而分布式架构的技术特点,就是负载均衡的引入,让不同服务器来同时处理业务压力。
第二点,分布式架构是云计算体系阶段的标配。为什么是标配呢?接下来我们聊聊分布式架构的核心优势对比。
image.png

分布式经典架构1+1>2,我在分享中经常比较喜欢说这个案例,真的是百说不厌。一台4核8G配置的主机,部署着一个分布式业务,如传统电商系统。我们用单台部署,以及如若我们拆分成两台2核4G配置的主机,用分布式架构思路部署,会有什么不一样?我们详细来看看对比的区别。
1、在成本方面,单机要402,两台也差不多四百多,基本一样。

2、在性能方面,差距就开始出来了。带宽方面,云主机仅有200Mbps,而两台部署,通过SLB对外访问,带宽有1Gbps。

3、磁盘方面,一台默认40G云盘,而两台就是两块默认40G系统盘,就是2倍的IO性能。所以在早起还未推出SSD云盘,那时候IO很低,为了满足业务对IO的需求,相比单机高配部署,通过分布式架构拆分成多台低配机器部署,就能获取成倍的IO性能,这招对提升IO性能非常管用。

4、安全性方面,单机直接暴露源IP,被黑客直接攻击源站。而两台分布式部署,隐藏后端IP避免被扫描、被直接打。甚至SLB是基于LVS,由于直接改了LVS的源码,具有一定的抗攻击功能。

5、扩展性方面,单机只能升级服务器配置来垂直扩展,而两台分布式部署,不仅能垂直快照,而且只需要往SLB后面增加更多ECS来进行水平扩展。

6、稳定性方面,单机肯定存在单点故障,而两台分布式部署的,没有单点问题。

通过分布式部署唯一的缺点,是在管理维护上会变复杂。不过通过ansible等自动化运维工具,这个对运维来说也没多大问题。所以:拥抱云计算,其实也是拥抱分布式如若业务不适合用分布式架构,其实发挥不了云计算的核心优势。

接着进入架构数据缓存阶段:数据库缓存。
下一篇:架构数据缓存阶段和两个维度拓展阶段

相关文章
|
6月前
|
存储 弹性计算 运维
AI时代下阿里云基础设施的稳定性架构揭秘
计算、存储、网络作为云计算基础 IaaS 服务,一直是阿里云的核心产品,承载着百万客户的 IT 基础设施。曾经我们认为应用高可用、服务分布式可以满足客户对 IaaS 所有的稳定性诉求。
830 2
AI时代下阿里云基础设施的稳定性架构揭秘
|
5月前
|
人工智能 Cloud Native 安全
解读阿里云刚发布的《AI 原生应用架构白皮书》
阿里云在云栖大会重磅发布了《AI 原生应用架构白皮书》,该白皮书覆盖 AI 原生应用的 11 大关键要素,获得业界 15 位专家联名推荐,来自 40 多位一线工程师实践心得,全书合计超 20w 字,分为 11 章,全面、系统地解构 AI 原生应用架构,包含了 AI 原生应用的 11 大关键要素,模型、框架、提示词、RAG、记忆、工具、网关、运行时、可观测、评估和安全。本文整理自阿里云智能技术专家李艳林在云栖大会现场的解读。
2374 63
|
4月前
|
存储 SQL 消息中间件
从 ClickHouse 到 StarRocks 存算分离: 携程 UBT 架构升级实践
查询性能实现从秒级到毫秒级的跨越式提升
|
5月前
|
人工智能 缓存 安全
阿里云发布《AI 原生应用架构白皮书》
阿里云联合阿里巴巴爱橙科技,共同发布《AI 原生应用架构白皮书》,围绕 AI 原生应用的 DevOps 全生命周期,从架构设计、技术选型、工程实践到运维优化,对概念和重难点进行系统的拆解,并尝试提供一些解题思路。白皮书覆盖 AI 原生应用的 11 大关键要素,获得 15 位业界专家联名推荐,来自 40 多位一线工程师实践心的,全书合计超 20w 字,分为 11 章。
3138 56
|
4月前
|
缓存 Cloud Native 中间件
《聊聊分布式》从单体到分布式:电商系统架构演进之路
本文系统阐述了电商平台从单体到分布式架构的演进历程,剖析了单体架构的局限性与分布式架构的优势,结合淘宝、京东等真实案例,深入探讨了服务拆分、数据库分片、中间件体系等关键技术实践,并总结了渐进式迁移策略与核心经验,为大型应用架构升级提供了全面参考。
|
4月前
|
人工智能 缓存 安全
阿里云发布《AI 原生应用架构白皮书》!
阿里云联合爱橙科技发布《AI原生应用架构白皮书》,系统解析AI应用在架构设计、开发运维中的关键挑战与解决方案,涵盖大模型、Agent、RAG、安全等11大核心要素,助力企业构建稳定、高效、可控的AI应用体系。
阿里云发布《AI 原生应用架构白皮书》!
|
4月前
|
存储 NoSQL 前端开发
【赵渝强老师】MongoDB的分布式存储架构
MongoDB分片通过将数据分布到多台服务器,实现海量数据的高效存储与读写。其架构包含路由、配置服务器和分片服务器,支持水平扩展,结合复制集保障高可用性,适用于大规模生产环境。
398 1
|
5月前
|
消息中间件 缓存 监控
中间件架构设计与实践:构建高性能分布式系统的核心基石
摘要 本文系统探讨了中间件技术及其在分布式系统中的核心价值。作者首先定义了中间件作为连接系统组件的"神经网络",强调其在数据传输、系统稳定性和扩展性中的关键作用。随后详细分类了中间件体系,包括通信中间件(如RabbitMQ/Kafka)、数据中间件(如Redis/MyCAT)等类型。文章重点剖析了消息中间件的实现机制,通过Spring Boot代码示例展示了消息生产者的完整实现,涵盖消息ID生成、持久化、批量发送及重试机制等关键技术点。最后,作者指出中间件架构设计对系统性能的决定性影响,

热门文章

最新文章