书笔记:网站架构之性能篇

本文涉及的产品
性能测试 PTS,5000VUM额度
简介:

录:
  一、网站性能测试
  二、Web前端性能优化
  三、应用服务器性能优化(重点)
  四、存储性能优化
  PS:本文为《大型网站技术架构 & 核心原理与案例分析(李智慧 著)》一书的读书笔记
  // =======================================================================================
  网站性能测试
  一、不同视角下的网站性能
  1、用户视角:直观视觉感受
  2、开发人员视角:响应延迟、吞吐量、并发处理能力等
  3、运维人员视角:基础设置资源利用率
  二、性能测试指标
  1、响应时间:请求从发出到处理完接收的时间
  2、并发数:同时处理请求的数量,即同时提交请求的用户数
  3、吞吐量:单位时间内处理请求的数量
  *:随着并发数增大:系统吞吐量先逐渐增加到极限,之后反而下降;系统响应时间先是小幅上升,当吞吐量达到极限后快速上升
  4、性能计数器:服务器监控指标,如CPU、内存、磁盘IO、网络IO
  三、性能测试(压测)方法
  *:不断增加系统访问压力(并发请求数),以获取系统性能指标数据
  四、性能测试(压测)报告
  *:要能够反应压测的系统性能曲线规律,阅读者能评估系统性能是否能满足需求
  // ===========================================================
  Web前端性能优化
  一、浏览器访问优化
  1、减少http请求:每次独立的http请求的通信和服务开销都很昂贵,可通过合并CSS、JS、图片等方式减少http请求数
  2、使用浏览器缓存:通过设置http头的Cache-Control和Expires属性设定浏览器缓存,将CSS、JS、图片等较少变更的资源缓存下来
  3、启用压缩:文件压缩可减少通讯传输的数据量,文本压缩率可达80%以上,但压缩解压会增加计算压力(权衡)
  4、CSS渲染放最上面,JS功能脚本放最下面:使用户视觉感受先已经看到页面
  二、CND加速
  *:部署在网络运营商机房,用户请求路由的第一条就到达CND服务器,有效降低请求时间
  三、反向代理
  *:部署在网站机房内,用户请求先到达反向代理服务器,有3个主要功能
  1、加速Web请求:通过配置缓存功能来实现
  2、安全:在用户请求和应用服务器间建立一个屏障
  3、负载均衡:均匀分发请求到应用服务器
  // ===========================================================

应用服务器性能优化
  一、分布式缓存(memcache)
  *:网站性能优化第一定律:优先考虑缓存
  1、缓存的基本原理:本质为内存Hash表
  *:数据以Key、Value对形式存储在内存Hash表中。通过Hash(Key)得到HashCode,即Value对应内存的位置
  2、合理使用缓存
  *:不适合缓存的数据:频繁修改(写导致缓存中的数据失效)、没有热点、一致性要求高(缓存设有失效时间,这段时间内可能有脏数据)
  *:缓存预热:缓存刚起来时为空数据,最好在使用前预加载数据库数据
  *:缓存雪崩:当缓存服务器崩溃时,所有请求会落到数据库导致数据库宕机。好的方法是使用分布式缓存服务器提高缓存可用性
  *:缓存穿透:不正确或者恶意的请求可能落在某个不存在的Key导致频繁读数据库,一个简单对策将不存在的Key也缓存起来
  3、分布式缓存架构
  *:一种是以JBossCache为代表的,每个缓存服务器数据相同,需同步更新的分布式缓存(很少用)
  *:一种是以Memcache为代表的,每个缓存服务器数据部相同,之间不需要通信的分布式缓存。应用程序通过一致性Hash等路由算法选择具体的缓存服务器
  4、Memcache的特点
  *:简单的通行协议:TCP的,一套基于简单文本的自定义协议(一个命令关键字+一组命令操作数,如get )
  *:丰富的客户端程序:几乎支持所有主流语言(因为通信协议简单)
  *:高性能的网络通信:基于Libevent,提供稳定的长连接
  *:高效的内存管理::简单固定的内存空间分配,slab_class=>slab=>chunk
  *:互不通信的集群架构:客户端路由算法一致性Hash更成为数据存储伸缩性架构的范例
  二、异步操作
  *:使用消息队列将调用异步化,可改善网站的扩展性
  *:消息队列:用户请求发送给消息队列后立即返回,再由消费队列的消费者进程将消息异步写入数据库,具有很好的削峰作用
  三、使用集群
  *:利用集群解决高并发问题,前端用负载均衡技术将请求均匀分发到多台服务器上(不单单局限在应用服务器)
  四、代码优化
  1、多线程
  *:线程的优点:比进程更轻量,占用更少系统资源,切换代价更小
  *:使用多线程的2个主要原因:IO阻塞(阻塞时可以调用其他线程处理)和多CPU(最大限度使用CPU)
  :线程数估算公式:启动线程数 = [ 任务执行时间 / ( 任务执行时间 - IO等待时间 ) ] CPU核数
  *:线程安全问题实质:多线程并发对某块内存进行修改操作(对象、内存、文件、数据库等)
  *:线程安全问题解决思路:对象设计为无状态,使用局部变量,并发访问加锁等
  2、资源复用
  *:开销较大的系统资源:数据库连接,网络Socket连接,线程,复杂对象等
  *:资源复用的2个方法:单例模式和对象池,都可以防止不必要的创建和销毁操作
  3、数据结构和算法
  *:灵活组合数据结构和算法优化程序执行复杂度,如Hash等
  // ===========================================================
  存储性能优化
  一、机械硬盘和固态硬盘
  1、机械硬盘:每次访问数据都需要移动磁头臂(物理运动),故数据连续访问和随机访问性能表现差别大
  2、固态硬盘:没有机械装置,数据存储于硅晶体中,有更好的性能。可靠性,性价比还有待提升,但逐步取代机械硬盘是迟早的事
  二、B+树和LSM树
  1、由于机械硬盘具有快速顺序读写,慢速随机读写的特性,故应用程序选择存储结构和算法极为重要
  2、B+树是一种专门针对磁盘存储而优化的N叉排序树,目前数据库多采用两级索引,树的层次最多三层
  3、LSM树可以看为一个N阶合并树,数据写操作都在内存中进行,目前许多NoSQL都采用LSM树作为主要数据结构
  三、RAID和HDFS
  1、RAID,即廉价磁盘冗余阵列,主要是为了改善磁盘访问延迟,增加磁盘可用性和容错能力(数据在多块磁盘并发读写和数据备份)
  2、HDFS,即分布式文件系统,Hadoop的文件系统,系统在整个存储集群的多台服务器上进行数据并发读写和备份
最新内容请见作者的GitHub页:http://qaseven.github.io/

相关实践学习
通过性能测试PTS对云服务器ECS进行规格选择与性能压测
本文为您介绍如何利用性能测试PTS对云服务器ECS进行规格选择与性能压测。
相关文章
|
2月前
|
存储 缓存 Cloud Native
MPP架构数据仓库使用问题之ADB PG云原生版本的扩缩容性能怎么样
MPP架构数据仓库使用问题之ADB PG云原生版本的扩缩容性能怎么样
MPP架构数据仓库使用问题之ADB PG云原生版本的扩缩容性能怎么样
|
21天前
|
设计模式 Java 关系型数据库
【Java笔记+踩坑汇总】Java基础+JavaWeb+SSM+SpringBoot+SpringCloud+瑞吉外卖/谷粒商城/学成在线+设计模式+面试题汇总+性能调优/架构设计+源码解析
本文是“Java学习路线”专栏的导航文章,目标是为Java初学者和初中高级工程师提供一套完整的Java学习路线。
178 37
|
21天前
|
负载均衡 数据库 开发工具
|
22天前
|
Java 数据库 Maven
谷粒商城笔记+踩坑(1)——架构、项目环境搭建、代码生成器
项目介绍、项目环境搭建、docker配置mysql,redis,jdk,maven、人人开源、快速开发、安装nodejs、逆向工程搭建,人人开源代码生成器
谷粒商城笔记+踩坑(1)——架构、项目环境搭建、代码生成器
|
24天前
|
缓存 运维 NoSQL
二级缓存架构极致提升系统性能
本文详细阐述了如何通过二级缓存架构设计提升高并发下的系统性能。
|
1月前
|
缓存 安全 Java
如何利用Go语言提升微服务架构的性能
在当今的软件开发中,微服务架构逐渐成为主流选择,它通过将应用程序拆分为多个小服务来提升灵活性和可维护性。然而,如何确保这些微服务高效且稳定地运行是一个关键问题。Go语言,以其高效的并发处理能力和简洁的语法,成为解决这一问题的理想工具。本文将探讨如何通过Go语言优化微服务架构的性能,包括高效的并发编程、内存管理技巧以及如何利用Go生态系统中的工具来提升服务的响应速度和资源利用率。
|
2月前
|
Web App开发 编解码 Linux
FFmpeg开发笔记(四十八)从0开始搭建直播系统的开源软件架构
音视频技术广泛应用于直播系统,涵盖电视、电脑、手机直播等多种形式,并延伸至在线教育、医疗咨询和安全监控等领域。直播系统涉及实时编解码与传输,技术实现较复杂。从用户角度看,直播系统分为来源方和观看方,但在开发者视角下还需加入云平台作为中转。本文提出一套基于全开源软件的直播系统架构,分为三层:开源直播录制软件(如OBS Studio、RTMP Streamer),开源流媒体服务器(如SRS、ZLMediaKit),以及开源音视频播放器(如VLC media player、ExoPlayer)。这些组件共同构成一个高效、灵活且成本低廉的直播解决方案。
71 0
FFmpeg开发笔记(四十八)从0开始搭建直播系统的开源软件架构
|
2月前
|
缓存 前端开发 算法
Fiber 架构如何提高性能和响应性的
【8月更文挑战第6天】Fiber 架构如何提高性能和响应性的
37 1
|
2月前
|
消息中间件 缓存 Java
如何优化大型Java后端系统的性能:从代码到架构
当面对大型Java后端系统时,性能优化不仅仅是简单地提高代码效率或硬件资源的投入,而是涉及到多层次的技术策略。本篇文章将从代码层面的优化到系统架构的调整,详细探讨如何通过多种方式来提升Java后端系统的性能。通过对常见问题的深入分析和实际案例的分享,我们将探索有效的性能优化策略,帮助开发者构建更高效、更可靠的后端系统。
|
2月前
|
存储 负载均衡 架构师
架构笔记汇总
架构笔记汇总
66 1
下一篇
无影云桌面