性能基础之大型网站架构演化(整理篇)

简介: 【2月更文挑战第14天】性能基础之大型网站架构演化(整理篇)

引言

本文整理自《大型网站技术架构 核心原理与案例分析》一书,这本书应该算一本很强的内功秘籍,虽然没有实战教学,但是基础理论扎实了是很重要的,书中观点明确,设计的问题域有针对性和全面性,对知识点的广度和深度都进行了拓展,包含了架构设计的方方面面。

阅读本书也许不能使你就此掌握大型网站架构设计的屠龙之术,但至少使你对网站架构的方法和思维方式能有全面了解。

开卷有益,说的应该就是这类书,在完整的看完本书之后的工作和学习中也会偶尔翻阅一下,解惑及加深理解。

大型软件系统的特点

image.png

大型网站的架构要素

image.png

大型网站演化发展历程

初始阶段的网站架构

初始阶段都比较简单,通常一台服务器就可以搞定一个网站了,后期逐渐优化,向更优的方向进化!

image.png

应用服务和数据服务分离

  • 随着网站业务发展,一台服务器逐渐不能满足需求:越来越多的用户访问导致性能越来越差,越来越多的数据导致存储空间不足。
  • 这时需要将应用和数据分离,分离后我那个站使用三台服务器:应用服务器、文件服务器和数据库服务器。
    image.png

使用缓存改善网站性能

  • 随着用户逐渐增多,数据库压力太多导致访问延迟,进而影响整个网站的性能,用户体验受到了影响。
  • 网站访问特点和现实世界的财富分配一样遵循二八定律:80%的业务访问集中在20%的数据上。
  • 把这一小部分数据缓存在内存中,可以减少数据库的访问压力,提供整个网站的数据库访问速度,改善数据库的写入性能。
  • 网站使用的缓存可以分为两种:
    • 缓存在应用服务器上的本地缓存。
      • 本地缓存的访问速度更快一些,但是受应用服务器内存的限制,其缓存数据量有限,而且会出现和应用程序征用内存的情况。
    • 缓存在专门的分布式缓存服务器上的远程缓存。
      • 远程分布式缓存可以使用集群的方式,部署大内存的服务器作为专门的缓存服务器,可以在理论上做到不受内存容量限制的缓存服务。

image.png

使用应用服务器集群改善网站的并发处理能力

  • 单一应用服务器能够处理的请求连接有限,在网站访问高峰期,应用服务器成为整个网站的瓶颈。
  • 使用集群是网站解决高并发、海量数据问题的常用手段。
  • 通过负载均衡调度服务器,可将来自用户浏览器的访问请求分发到应用服务器集群中的任何一台服务器上,如果有更多的用户,就在集群中加入更多的应用服务器,使应用服务器的负载压力不再成为整个网站的瓶颈。
    image.png

数据库读写分离

  • 使用缓存后,绝大部分数据读写操作可以不通过数据库就能完成,但是仍有一部分读操作和全部写操作需要访问数据库,在网站达到一定规模后,数据库因为负载压力过高成为了网站的瓶颈。
  • 通过数据库提供的主从热备功能,配置两台数据库主从关系,可以将一台数据库服务器的数据更新同步到另一台服务器上,从而实现数据库读写分离,改善数据库负载压力。
  • 主数据库负责写操作,并通过主从复制机制将数据更新同步到从数据库,从数据负责读操作。

image.png

目前很多云服务商都有类似的产品提供,当然,也可以自己搭建数据库集群并在业务代码中进行读写分离的实现

使用反向代理和CDN加速网站响应

  • 由于中国复杂的网络环境,不同地区的用户访问网站时,速度差别也极大,网站需要加速网站访问速度,主要手段有使用CDN和反向代理。
  • CDN和反向代理的基本原理都是缓存,区别在于CDN部署在网络提供的机房,使用户在请求网站服务时。可以从距离自己最近的网络提供商机房获取数据;
  • 而反向代理则部署在网站的中心机房,当用户请求到达中心机房后,首先访问的服务器是反向代理服务器,如果反向代理服务器中缓存着用户请求的资源,就将其直接返回给用户。

image.png

使用分布式文件系统和分布式数据库系统

  • 任何强大的单一服务器都满足不了大型网站持续增长的业务需求,数据库系统和文件系统需要使用分布式系统。
  • 分布式数据库是网站数据库拆分的最后手段,只有在单表数据规模非常庞大的时候才使用,不到不得已时,网站更常用的数据库拆分手段是业务分库,将不同业务的数据部署在不同的物理服务器上。

image.png

使用NoSQL和搜索引擎

  • 随着网站业务越来越复杂,对数据存储和检索的需求也越来越复杂,网站需要采用一些非关系数据库技术如NoSQL和非数据库查询技术如搜索引擎。各种开源产品不断涌现,遍地开花:redis、mongodb、solr、elastic stack、hadoop、spark......

image.png

业务拆分

  • 为了应对日益复杂的业务场景,通过使用分而治之的手段将整个网站业务分成不同的产品线,如大型购物交易网站就会将首页、商铺、订单、买家、卖家等拆分成不同的产品线,分归不同的业务团队复负责。
  • 会根据产品线划分,将一个网站拆分成许多不同的应用,每个应用独立部署维护。应用间可以通过一个超连接建立关系,或者通过消息队列进行数据分发,最多的还是通过访问同一个数据存储系统来构成一个关联的完整系统。

image.png

分布式服务

  • 既然每一个应用系统都需要执行许多相同的业务操作,比如用户管理、商品管理等,那么可以将这些共用的业务提取出来,独立部署。
  • 由这些可复用的业务连接数据库,提供共用业务服务,而应用系统只需要管理用户界面,通过分布式服务调用共同业务服务完成具体业务操作。

image.png

目录
相关文章
|
4月前
|
存储 缓存 Cloud Native
MPP架构数据仓库使用问题之ADB PG云原生版本的扩缩容性能怎么样
MPP架构数据仓库使用问题之ADB PG云原生版本的扩缩容性能怎么样
MPP架构数据仓库使用问题之ADB PG云原生版本的扩缩容性能怎么样
|
2月前
|
Cloud Native Java API
聊聊从单体到微服务架构服务演化过程
本文介绍了从单体应用到微服务再到云原生架构的演进过程。单体应用虽易于搭建和部署,但难以局部更新;面向服务架构(SOA)通过模块化和服务总线提升了组件复用性和分布式部署能力;微服务则进一步实现了服务的独立开发与部署,提高了灵活性;云原生架构则利用容器化、微服务和自动化工具,实现了应用在动态环境中的弹性扩展与高效管理。这一演进体现了软件架构向着更灵活、更高效的方向发展。
|
1月前
|
机器学习/深度学习 自然语言处理 物联网
NeurIPS 2024 Oral:小参数,大作为!揭秘非对称 LoRA 架构的高效性能
近期,一篇题为《\model~: 非对称LoRA架构实现高效微调》的论文被NeurIPS 2024接收为口头报告,该研究提出了一种创新的非对称LoRA架构,旨在解决大型语言模型(LLMs)在保持高性能的同时提高训练和部署效率的问题。通过引入共享A矩阵和多个B矩阵,\model~不仅提高了参数效率,还在多个数据集上展示了超越现有PEFT方法的性能,尤其是在多任务域和复杂数据集上的表现尤为突出。此架构还有效减少了训练能耗和延迟,为LLMs的高效应用提供了新思路。
34 4
|
1月前
|
人工智能 Cloud Native 算法
|
3月前
|
设计模式 Java 关系型数据库
【Java笔记+踩坑汇总】Java基础+JavaWeb+SSM+SpringBoot+SpringCloud+瑞吉外卖/谷粒商城/学成在线+设计模式+面试题汇总+性能调优/架构设计+源码解析
本文是“Java学习路线”专栏的导航文章,目标是为Java初学者和初中高级工程师提供一套完整的Java学习路线。
501 37
|
4月前
|
运维 Cloud Native 开发者
云原生时代下的微服务架构演化之路
【8月更文挑战第20天】在数字化转型的浪潮下,企业级应用纷纷拥抱云原生架构。本文将深入探讨微服务架构在适应云原生环境的过程中所面临的挑战与机遇,并分析如何通过优化设计、容器化技术及自动化运维,实现高效、灵活且可靠的系统构建。
185 65
|
2月前
|
安全 数据安全/隐私保护 UED
优化用户体验:前后端分离架构下Python WebSocket实时通信的性能考量
在当今互联网技术的迅猛发展中,前后端分离架构已然成为主流趋势,它不仅提升了开发效率,也优化了用户体验。然而,在这种架构模式下,如何实现高效的实时通信,特别是利用WebSocket协议,成为了提升用户体验的关键。本文将探讨在前后端分离架构中,使用Python进行WebSocket实时通信时的性能考量,以及与传统轮询方式的比较。
78 2
|
3月前
|
缓存 运维 NoSQL
二级缓存架构极致提升系统性能
本文详细阐述了如何通过二级缓存架构设计提升高并发下的系统性能。
139 12
|
3月前
|
缓存 安全 Java
如何利用Go语言提升微服务架构的性能
在当今的软件开发中,微服务架构逐渐成为主流选择,它通过将应用程序拆分为多个小服务来提升灵活性和可维护性。然而,如何确保这些微服务高效且稳定地运行是一个关键问题。Go语言,以其高效的并发处理能力和简洁的语法,成为解决这一问题的理想工具。本文将探讨如何通过Go语言优化微服务架构的性能,包括高效的并发编程、内存管理技巧以及如何利用Go生态系统中的工具来提升服务的响应速度和资源利用率。
|
4月前
|
消息中间件 存储 Java
图解Kafka:Kafka架构演化与升级!
图解Kafka:Kafka架构演化与升级!
103 0
图解Kafka:Kafka架构演化与升级!

热门文章

最新文章