秋色园QBlog技术原理解析:性能优化篇:读写分离与文本数据库(十八)

简介:
上节回顾:
 
秋色园 QBlog  对于频繁产生更新操作的访问计数器(用户表及文章表),进行了另一种优化方案处理,使得原来并发进行的操作,变成了定时的单个队列式顺序更新操作,有效的解决了计数器引发的并发的问题。
 
本节概要:
 
虽然减压方案频繁出招,可是依旧没能阻挡住access黄金4K的绝杀。
在压力之下,梦幻潜能再次被激发。
于是,新的绝招再次出世:一个失传已久的招数:文本数据库
 
本节内容:
 
1:分析寻找优化点:
 
通过  CYQ.Data  的 AppDebug(即将发布的V4.5.5版本包含此类),打印出页面的SQL语句:
 
 
PS:关于打印页面SQL语句的优化,可见之前的文章:秋色园QBlog技术原理解析:性能优化篇:全局的SQL语句优化(十三)
 
首先观察页面这些语句,我们看到这里涉及到几条语句:
1:第一次的表架构获取语句,即where 1=2的语句
2:博客用户的信息读取语句
3:友情链接的语句
PS:如果没有缓存,当然还有很多和文章列表相关的语句,文章的下节重点再讲。
 
然后我对着这些语句寻思了很久时间,最后得出结论,得把这些语句消灭掉。
 
2:步步分析并对可优化点进行优化:
 
2.1:消灭表架构读取SQL语句
这个其实关系不大,因为一个表仅读一次,而且之后全局默认缓存30分钟,所以出现频繁非常低,不过了为追求首页0语句,我还是比较严肃的把它给消灭了,怎么消灭的?
消灭其实还是很好解决的,只要首次读取时,把表架构外置到文本中即可,于是架构的读取顺序就变成了:缓存->文本->数据库。
 
下面给一张表架构外置文本和架构外置架构示例图:
 
2.2:消灭用户信息的读取SQL语句
其实用户表是个大问题,经常也会出现的4K,因为有太多的语句,可涉及到用户表的读取。
为此,虽然说用户信息每次读取完后也会进行缓存,但是,用户数量比较多,搜索引擎来来回回,啥用户也会扯到,所以总体来来回回就变的读取相当相当的频繁,为此,我想了一想,把它给消灭了,怎么消灭的?
同理,第一次读取时,我把用户信息外置到文本了,然后用户后台更新数据的时候,也刷新文本。
然后读取自然的顺序就变成了:缓存->文本->数据库。
于是当然的,秋色园现在4000多的用户,就产生了4000多个文本了,看似规模很庞大!
难免有人要发出感叹,要是你100万用户,不就产生100万个文本了?我想说,求之不得啊!
 
下面给一张用户信息文本及用户信息以json格式存储的示例图:
 
2.3:消灭友情链接的读取SQL语句
用户的友情链接,比起用户信息来说,不算重点,不过你会发现,用户的每个页面可都是也有友情链接的。
所以,我打算把它也给灭了,怎么消灭的?
有了上面两步的经验,这步实施起来太easy了,同理,首次把用户的友情链接转存到文件中,然后读取就是文本读取了,后台修改的时候,也是读的文本的,不过写的时候,先写数据库,再写文本。
于是,4000多用户,也会产生4000多的友情链接的文本。
 
下面给一张友情链接的文本及友情链接列表以json格式存储的示例图:
 
2.4:文章列表的SQL语句呢?
这里必须严肃的说一下,大量的文章列表的SQL语句,并没有使用文本的方式进行消灭。
为啥没有呢?
原因也很简单,因为文章列表涉及到查询及排序还有分组等复杂语句,文本不太好操作这些事情。
那文章列表是如何进行的优化,这是个大工程,当时我在外散步连续思考了3天,也是秋色园 QBlog 至今为止的最后一次优化,这么大工程,具体下节详细介绍了。
 
总结:
 
秋色园 QBlog 通过借助于文本,将大量的读取数据库转移到文本读取中,有效的降低了数据库的压力,同时网站运行也顺畅了很多。
经过一场应用之后,对文本有了第一印象:
优点:速度快,小数据量(10万或10M上下)简单的存储与读取非常方便。
缺点:删除,更新,查询,分页,排序及并发控制等操作复杂,而且数据量也不适合太多。
 
另外据网上搜索“文本数据库”的结果看来:
文本数据库以前在php界很流行,多数论坛都采用文本数据库,而且抗并发能力相当强,当然这背后相信有一定的技术手段在处理,然后后来的后来,php基本都统一mysql了。
至于.net界,文本数据库却从没流行过,这是为什么呢?
 
历史文章回顾:
1:  秋色园QBlog技术原理解析:开篇:整体认识(一) --介绍整体文件夹和文件的作用
2:  秋色园QBlog技术原理解析:认识整站处理流程(二) --介绍秋色园业务处理流程
4:  秋色园QBlog技术原理解析:UrlRewrite之URL重定向体系(四) --介绍URL如何定位到处理程序
5:  秋色园QBlog技术原理解析:Module之页面基类设计(五) --介绍创建基类和自定义生命周期
12: 秋色园QBlog技术原理解析:性能优化篇:字节与缓存与并发(十二) --介绍性能优化:字节,并发及缓存
附章:
 
 


     本文转自cyq1162 51CTO博客,原文链接:http://blog.51cto.com/cyq1162/633035 ,如需转载请自行联系原作者





相关文章
|
13天前
|
SQL druid Java
Javaweb之数据库连接池以及lombok类库的详细解析
Javaweb之数据库连接池以及lombok类库的详细解析
28 0
|
13天前
|
SQL 数据库
数据库开发之子查询案例的详细解析
数据库开发之子查询案例的详细解析
12 0
|
13天前
|
SQL 存储 数据库
数据库开发表操作案例的详细解析
数据库开发表操作案例的详细解析
7 0
|
13天前
|
SQL 存储 关系型数据库
数据库开发之图形化工具以及表操作的详细解析
数据库开发之图形化工具以及表操作的详细解析
28 0
|
24天前
|
存储 分布式计算 大数据
HBase分布式数据库关键技术与实战:面试经验与必备知识点解析
【4月更文挑战第9天】本文深入剖析了HBase的核心技术,包括数据模型、分布式架构、访问模式和一致性保证,并探讨了其实战应用,如大规模数据存储、实时数据分析及与Hadoop、Spark集成。同时,分享了面试经验,对比了HBase与其他数据库的差异,提出了应对挑战的解决方案,展望了HBase的未来趋势。通过Java API代码示例,帮助读者巩固理解。全面了解和掌握HBase,能为面试和实际工作中的大数据处理提供坚实基础。
37 3
|
13天前
|
SQL 存储 关系型数据库
数据库开发之mysql前言以及详细解析
数据库开发之mysql前言以及详细解析
18 0
|
24天前
|
存储 中间件 关系型数据库
数据库切片大对决:ShardingSphere与Mycat技术解析
数据库切片大对决:ShardingSphere与Mycat技术解析
28 0
|
5天前
|
存储 机器学习/深度学习 搜索推荐
深入解析矢量数据库的数据模型与索引机制
【4月更文挑战第30天】本文深入探讨了矢量数据库的数据模型和索引机制。向量数据库以高维向量表示数据,采用稀疏或密集向量形式,并通过数据编码和组织优化存储与检索。索引机制包括基于树的(如KD-Tree和Ball Tree)、基于哈希的(LSH)和近似方法(PQ),加速相似性搜索。理解这些原理有助于利用矢量数据库处理大规模高维数据,应用于推荐系统、图像搜索等领域。随着技术发展,矢量数据库将扮演更重要角色。
|
5天前
|
缓存 关系型数据库 MySQL
MySQL数据库性能优化实战
【4月更文挑战第30天】本文探讨了MySQL性能优化实战技巧,包括硬件与配置优化(如使用SSD、增加内存和调整配置参数)、索引优化(创建合适索引、使用复合索引及定期维护)、查询优化(避免全表扫描、减少JOIN和使用LIMIT)、分区与分片(表分区和数据库分片),以及使用缓存、定期清理数据库和监控诊断。通过这些方法,可以提升数据库性能和响应速度。
|
6天前
|
缓存 Java 开发者
10个点介绍SpringBoot3工作流程与核心组件源码解析
Spring Boot 是Java开发中100%会使用到的框架,开发者不仅要熟练使用,对其中的核心源码也要了解,正所谓知其然知其所以然,V 哥建议小伙伴们在学习的过程中,一定要去研读一下源码,这有助于你在开发中游刃有余。欢迎一起交流学习心得,一起成长。

推荐镜像

更多