性能基础之大型网站架构演化(整理篇)

简介: 【2月更文挑战第14天】性能基础之大型网站架构演化(整理篇)

引言

本文整理自《大型网站技术架构 核心原理与案例分析》一书,这本书应该算一本很强的内功秘籍,虽然没有实战教学,但是基础理论扎实了是很重要的,书中观点明确,设计的问题域有针对性和全面性,对知识点的广度和深度都进行了拓展,包含了架构设计的方方面面。

阅读本书也许不能使你就此掌握大型网站架构设计的屠龙之术,但至少使你对网站架构的方法和思维方式能有全面了解。

开卷有益,说的应该就是这类书,在完整的看完本书之后的工作和学习中也会偶尔翻阅一下,解惑及加深理解。

大型软件系统的特点

image.png

大型网站的架构要素

image.png

大型网站演化发展历程

初始阶段的网站架构

初始阶段都比较简单,通常一台服务器就可以搞定一个网站了,后期逐渐优化,向更优的方向进化!

image.png

应用服务和数据服务分离

  • 随着网站业务发展,一台服务器逐渐不能满足需求:越来越多的用户访问导致性能越来越差,越来越多的数据导致存储空间不足。
  • 这时需要将应用和数据分离,分离后我那个站使用三台服务器:应用服务器、文件服务器和数据库服务器。
    image.png

使用缓存改善网站性能

  • 随着用户逐渐增多,数据库压力太多导致访问延迟,进而影响整个网站的性能,用户体验受到了影响。
  • 网站访问特点和现实世界的财富分配一样遵循二八定律:80%的业务访问集中在20%的数据上。
  • 把这一小部分数据缓存在内存中,可以减少数据库的访问压力,提供整个网站的数据库访问速度,改善数据库的写入性能。
  • 网站使用的缓存可以分为两种:
    • 缓存在应用服务器上的本地缓存。
      • 本地缓存的访问速度更快一些,但是受应用服务器内存的限制,其缓存数据量有限,而且会出现和应用程序征用内存的情况。
    • 缓存在专门的分布式缓存服务器上的远程缓存。
      • 远程分布式缓存可以使用集群的方式,部署大内存的服务器作为专门的缓存服务器,可以在理论上做到不受内存容量限制的缓存服务。

image.png

使用应用服务器集群改善网站的并发处理能力

  • 单一应用服务器能够处理的请求连接有限,在网站访问高峰期,应用服务器成为整个网站的瓶颈。
  • 使用集群是网站解决高并发、海量数据问题的常用手段。
  • 通过负载均衡调度服务器,可将来自用户浏览器的访问请求分发到应用服务器集群中的任何一台服务器上,如果有更多的用户,就在集群中加入更多的应用服务器,使应用服务器的负载压力不再成为整个网站的瓶颈。
    image.png

数据库读写分离

  • 使用缓存后,绝大部分数据读写操作可以不通过数据库就能完成,但是仍有一部分读操作和全部写操作需要访问数据库,在网站达到一定规模后,数据库因为负载压力过高成为了网站的瓶颈。
  • 通过数据库提供的主从热备功能,配置两台数据库主从关系,可以将一台数据库服务器的数据更新同步到另一台服务器上,从而实现数据库读写分离,改善数据库负载压力。
  • 主数据库负责写操作,并通过主从复制机制将数据更新同步到从数据库,从数据负责读操作。

image.png

目前很多云服务商都有类似的产品提供,当然,也可以自己搭建数据库集群并在业务代码中进行读写分离的实现

使用反向代理和CDN加速网站响应

  • 由于中国复杂的网络环境,不同地区的用户访问网站时,速度差别也极大,网站需要加速网站访问速度,主要手段有使用CDN和反向代理。
  • CDN和反向代理的基本原理都是缓存,区别在于CDN部署在网络提供的机房,使用户在请求网站服务时。可以从距离自己最近的网络提供商机房获取数据;
  • 而反向代理则部署在网站的中心机房,当用户请求到达中心机房后,首先访问的服务器是反向代理服务器,如果反向代理服务器中缓存着用户请求的资源,就将其直接返回给用户。

image.png

使用分布式文件系统和分布式数据库系统

  • 任何强大的单一服务器都满足不了大型网站持续增长的业务需求,数据库系统和文件系统需要使用分布式系统。
  • 分布式数据库是网站数据库拆分的最后手段,只有在单表数据规模非常庞大的时候才使用,不到不得已时,网站更常用的数据库拆分手段是业务分库,将不同业务的数据部署在不同的物理服务器上。

image.png

使用NoSQL和搜索引擎

  • 随着网站业务越来越复杂,对数据存储和检索的需求也越来越复杂,网站需要采用一些非关系数据库技术如NoSQL和非数据库查询技术如搜索引擎。各种开源产品不断涌现,遍地开花:redis、mongodb、solr、elastic stack、hadoop、spark......

image.png

业务拆分

  • 为了应对日益复杂的业务场景,通过使用分而治之的手段将整个网站业务分成不同的产品线,如大型购物交易网站就会将首页、商铺、订单、买家、卖家等拆分成不同的产品线,分归不同的业务团队复负责。
  • 会根据产品线划分,将一个网站拆分成许多不同的应用,每个应用独立部署维护。应用间可以通过一个超连接建立关系,或者通过消息队列进行数据分发,最多的还是通过访问同一个数据存储系统来构成一个关联的完整系统。

image.png

分布式服务

  • 既然每一个应用系统都需要执行许多相同的业务操作,比如用户管理、商品管理等,那么可以将这些共用的业务提取出来,独立部署。
  • 由这些可复用的业务连接数据库,提供共用业务服务,而应用系统只需要管理用户界面,通过分布式服务调用共同业务服务完成具体业务操作。

image.png

目录
相关文章
|
29天前
|
存储 并行计算 算法
【深度挖掘Java性能调优】「底层技术原理体系」深入挖掘和分析如何提升服务的性能以及执行效率(性能三大定律)
【深度挖掘Java性能调优】「底层技术原理体系」深入挖掘和分析如何提升服务的性能以及执行效率(性能三大定律)
38 0
|
6月前
|
运维 监控 Java
03-揭秘大厂性能方案的奥秘!(下)
03-揭秘大厂性能方案的奥秘!
40 0
|
6月前
|
运维 监控 架构师
03-揭秘大厂性能方案的奥秘!(上)
03-揭秘大厂性能方案的奥秘!
50 0
|
11月前
|
机器学习/深度学习 数据采集 人工智能
谈谈当下火热chatgpt的优点及缺点,实践及总结
谈谈当下火热chatgpt的优点及缺点,实践及总结
1209 0
|
敏捷开发 架构师 项目管理
架构师才能看懂的大型网站架构面临的挑战:业务架构的基本思路
业务架构的基本思路 大型网站系统有很多功能,一次性明确所有的功能需求并设计出一个庞大的业务架构是一件费力不讨好的事情。因为在项目前期,难免会忽视一些琐碎功能,而随着开发的进行,也会有很多新的想法产生,基本上不会存在完全按照最初的业务架构设计完成的软件产品。因此,业务架构不仅要做到“规整功能模块,厘清产品业务逻辑”,更重要的是如何做到“有规划性地应对项目过程中的需求变更”。
|
缓存 前端开发 NoSQL
程序员该知道大型网站架构的发展历程吗?如何有效地增加服务器?
前面介绍了大型网站的业务需求和大致的工作原理,但是不能简单地理解为只要增加服务器就能把一个网站变成一个能应对大量用户的网站。 通过增加服务器来达到支持更多的用户是大型网站架构的目的。 本节简要介绍大型网站架构的发展,并介绍大型网站架构如何有效地增加服务器。 本节介绍的技术点只要了解即可,后续章节会有更详细的说明。 大型网站系统的内部是复杂的,一般是多种网站架构的混合(包括静态网站、动态网站和B/S架构网站等)。
|
架构师 程序员
谈谈技术能力
在程序员中,围城现象非常严重,是技术人在职业发展过程中必定会面临的困境。但要回答清楚这个问题,其根源不在于是写不写代码或者代码量的多少,其本质还是要回到什么叫技术能力以及如何提升技术能力这个根节点上来。我把我的一些观察和思考总结下来,供大家参考。
1000 2
谈谈技术能力
|
缓存 负载均衡 安全
图解大型网站技术架构演变过程!秒懂
图解大型网站技术架构演变过程!秒懂
208 0
图解大型网站技术架构演变过程!秒懂
|
存储 消息中间件 缓存
[原创]分布式系统之缓存的微观应用经验谈(一) 【设计基础细节篇】
近几个月一直在忙些琐事,几乎年后都没怎么闲过。忙忙碌碌中就进入了2018年的秋天了,不得不感叹时间总是如白驹过隙,也不知道收获了什么和失去了什么。最近稍微休息,买了两本与技术无关的书,其一是Yann Martel 写的《The High Mountains of Portugal》(葡萄牙的高山),发现阅读此书是需要一些耐心的,对人生暗喻很深,也有足够的留白,有兴趣的朋友可以细品下。
1341 0