【DDIA笔记】【ch1】 可靠性、可扩展性和可维护性 -- 可扩展性

简介: 【6月更文挑战第3天】可扩展性关乎系统应对负载增长的能力,但在产品初期过度设计可能导致失败。理解基本概念以应对可能的负载增长是必要的。衡量负载的关键指标包括日活、请求频率、数据库读写比例等。推特的扩展性挑战在于"扇出",即用户关注网络的广度。两种策略包括拉取(按需查询数据库)和推送(预计算feed流)。推送方法在推特案例中更为有效,因为它减少了高流量时的实时计算压力。

可扩展性

可扩展性表示描述系统应对负载增长能力。它很重要,但是在实践中又很难做好,因为存在一个基本矛盾 :只有能存活下来的产品才有资格谈扩展,而过早为扩展设计往往活不下去

但是可以了解一些基本的概念,来应对可能会暴增的负载。

衡量负载

应对负载前,先找到合适的方法来衡量负载,如负载参数

  • 应用的日活、月活

  • 每秒向web服务器发出的请求

  • 数据库的读写比率

  • 聊天室里同时活跃的用户数

  • 缓存命中率

在上述情况里,也许平均情况更重要,也是少数的极端场景才是你的瓶颈

下面以推特在2012年11月发布的数据为例,推特的两个主要业务是:

  • 发布推文用户可以向其粉丝发布新消息,平均4.6k请求/秒,峰值超过12k请求/秒

  • 主页时间线用户可以查询他们关注的人发布的推文,即推荐feed流,300K请求/秒

处理每秒12000次写入(发推文的速率峰值)还是很简单的,但是推特的可扩展性挑战并不是来自推特量,而是来自扇出(fan-out)-- 每个用户关注了许多人,也被很多人关注

大体来说,这一对操作有两种实现方式:

  1. 发布推文时,只需要将新推文插入全局推文集合即可。当一个用户请求自己的推荐feed流主页时间线时,首先查找所有他关注的人,查询这些被关注用户发布的推荐并按时间顺序合并。如下图的关系型数据库里,可以写出来这样的查询:


    2024-06-03-21-23-56-image.png

SELECT tweets.*, users.*
  FROM tweets
  JOIN users   ON tweets.sender_id = users.id
  JOIN follows ON follows.followee_id = users.id
  WHERE follows.follower_id = current_user
  1. 为每个用户的主页时间线维护一个缓存,就像每个用户的推文收件箱。当一个用户发布推文时,查找所有关注该用户的人,并将新的推文插入到每个主页时间线缓存中。因为结果已经提前计算好了,所以读取主页时间线的请求开销很小。


2024-06-03-21-26-07-image.png

简单来说就是推和拉两种方式:

  1. 拉:每个人查看其首页推荐feed流时,从数据库现拉取所有关注用户的推文,合并后呈现

  2. 推:为每个用户保存一个feed流视图,当用户发推文时,将其插入所有关注者的feed流视图中。

前者是Lazy的,用户只有查看时才会去拉取,不会有无效计算和请求,但每次都需要现算,呈现速度较慢,而且流量一大也扛不住。

后者事先计算出视图,而不管用户看不看,呈现速度较快,但是引入很低无效请求。

后者的效果更好,因为发推频率比查询主页时间线频率几乎低了两个数量级,所以在这种情况下,最好是在写入时做更多的工作,而在读取时做更少的工作。

目录
相关文章
|
16天前
|
存储 关系型数据库 数据库
【DDIA笔记】【ch2】 数据模型和查询语言 -- 多对一和多对多
【6月更文挑战第7天】该文探讨数据模型,比较了“多对一”和“多对多”关系。通过使用ID而不是纯文本(如region_id代替"Greater Seattle Area"),可以实现统一、避免歧义、简化修改、支持本地化及优化搜索。在数据库设计中,需权衡冗余和范式。文档型数据库适合一对多但处理多对多复杂,若无Join,需应用程序处理。关系型数据库则通过外键和JOIN处理这些关系。文章还提及文档模型与70年代层次模型的相似性,层次模型以树形结构限制了多对多关系处理。为克服层次模型局限,发展出了关系模型和网状模型。
23 6
|
18天前
|
XML NoSQL 数据库
【DDIA笔记】【ch2】 数据模型和查询语言 -- 概念 + 数据模型
【6月更文挑战第5天】本文探讨了数据模型的分析,关注点包括数据元素、关系及不同类型的模型(关系、文档、图)与Schema模式。查询语言的考量涉及与数据模型的关联及声明式与命令式编程。数据模型从应用开发者到硬件工程师的各抽象层次中起着简化复杂性的关键作用,理想模型应具备简洁直观和可组合性。
15 2
|
15天前
|
SQL 人工智能 关系型数据库
【DDIA笔记】【ch2】 数据模型和查询语言 -- 文档模型中Schema的灵活性
【6月更文挑战第8天】网状模型是层次模型的扩展,允许节点有多重父节点,但导航复杂,需要预知数据库结构。关系模型将数据组织为元组和关系,强调声明式查询,解耦查询语句与执行路径,简化了访问并通过查询优化器提高效率。文档型数据库适合树形结构数据,提供弱模式灵活性,但在Join支持和访问局部性上不如关系型。关系型数据库通过外键和Join处理多对多关系,适合高度关联数据。文档型数据库的模式灵活性体现在schema-on-read,写入时不校验,读取时解析,牺牲性能换取灵活性。适用于不同类型或结构变化的数据场景。
17 0
|
17天前
|
SQL JSON NoSQL
【DDIA笔记】【ch2】 数据模型和查询语言 -- 关系模型与文档模型
【6月更文挑战第6天】关系模型是主流数据库模型,以二维表形式展示数据,支持关系算子。分为事务型、分析型和混合型。尽管有其他模型挑战,如网状和层次模型,但关系模型仍占主导。然而,随着大数据增长和NoSQL的出现(如MongoDB、Redis),强调伸缩性、专业化查询和表达力,关系模型的局限性显现。面向对象编程与SQL的不匹配导致“阻抗不匹配”问题,ORM框架缓解但未完全解决。文档模型(如JSON)提供更自然的嵌套结构,适合表示复杂关系,具备模式灵活性和更好的数据局部性。
20 0
|
19天前
|
敏捷开发 存储 缓存
【DDIA笔记】【ch1】 可靠性、可扩展性和可维护性 -- 可维护性
【6月更文挑战第4天】本文探讨了Twitter面临的一次发推文引发的巨大写入压力问题,指出用户粉丝数分布是决定系统扩展性的关键因素。为解决此问题,Twitter采用混合策略,大部分用户推文扇出至粉丝主页时间线,而少数名人推文则单独处理。性能指标包括吞吐量、响应时间和延迟,其中高百分位响应时间对用户体验至关重要。应对负载的方法分为纵向和横向扩展,以及自动和手动调整。文章强调了可维护性的重要性,包括可操作性、简单性和可演化性,以减轻维护负担和适应变化。此外,良好设计应减少复杂性,提供预测性行为,并支持未来改动。
19 0
|
21天前
|
存储 消息中间件 缓存
【DDIA笔记】【ch1】 可靠性、可扩展性和可维护性 -- part1 可靠性
【6月更文挑战第2天】本书探讨现代数据系统,阐述其在信息社会中的关键作用,包括数据库、缓存、搜索引擎、流处理、批处理和消息队列等组成部分。随着技术发展,工具如Kafka、Spark和Redis等多功能组件使得系统设计更为复杂。面对可靠性、可扩展性和可维护性的挑战,书中强调了容错和韧性的重要性,区分了硬件故障、软件错误和人为错误,并提出了应对措施。可靠性关乎用户数据、企业声誉和生存,因此是系统设计的核心考量。
24 0
硬件开发笔记(十): 硬件开发基本流程,制作一个USB转RS232的模块(九):创建CH340G/MAX232封装库sop-16并关联原理图元器件
有了原理图,可以设计硬件PCB,在设计PCB之间还有一个协同优先动作,就是映射封装,原理图库的元器件我们是自己设计的。为了更好的表述封装设计过程,本文描述了CH340G和MAX232芯片封装创建(SOP-16),并将原理图的元器件关联引脚封装。
硬件开发笔记(十): 硬件开发基本流程,制作一个USB转RS232的模块(九):创建CH340G/MAX232封装库sop-16并关联原理图元器件

热门文章

最新文章