C#.NET 权限管理系统组件 - 大数据读写分离实现的例子

简介:

  当web服务器的每天的访问量超过10万ip时对服务器主机的性能要求就非常高了,而且这些访问量又不是平均分布在24个小时里,往往有一个集中的访问高峰,晚上服务器的访问量又很低甚至是深夜连续好几个小时没访问量!

   例如我们平时维护的网站的日平均访问量是30万ip、访问高峰时并发的用户量非常大,数据库主机的压力非常大,虽然我们采取了分库措施,但是有些大表、核 心业务表的访问压力又非常大,例如有同时有1千个用户在读取数据库又同时这1千个用户在写入数据库,往往读取的次数比写入的更多一些。

   1:购买更好的服务器硬件提升性能(硬件性能越高价钱越高,这个是无止境的投资,而且闲置下来的服务器有时候也无法发挥更好的作用,同时还需要购买相同配置的备份服务器,以防止硬件突然损坏,所以这个代价不只是购买1台就可以了,要购买2台才可以)。

   2:利用读写分离进行性能优化,例如数据库的复制机制,把主数据库复制出一份到另外一个服务器上,写入操作都写主数据库,读取操作都从另外一个服务器读 取,这样并不需要非常牛的服务器,就可以把1千人同时读取,同时又写入的操作,分给2台服务器来承担。这样主服务器的压力明显可以减少了,性能下降也会明 显得到改善。一台主机可能处理起来要接近死机了,2台主机来承担这个压力,可能2个主机都活得好好的,而且还可以承担的更大的并发压力了。

   3:数据库的复制同步可以让数据库管理员来设置配置了,我们写程序主要是改我们的源码,原来的1个数据库连接 UserCenterDbConnection读写在一起的修改一下,UserCenterWriteDbConnection(写入)、 UserCenterReadDbConnection(读取)的进行分离,当然我们的系统刚开始设计的时候就足够健壮那就耗费1天2天就可以修改过来 了,再仔细测试一下就可以重新发布了,读写分离就这么搞定了,心里舒坦了很多。

   4: 读写分离也不是那么100%绝对的,主要目的是为了降低主服务器的性能压力,尽量把读取操作集中在另外一个读取的数据库服务器上,解放主服务器;例如一个 操作需要马上写入服务器,然后需要及时读取到值的,也直接写入读取主服务器就可以了,读写分离也是相对的,我们的主要目的是把主服务器的并发访问压力减 缓、提高主服务器的数据处理性能。 

下图是大数据读写分离的示意图,做得非常好看,我喜欢

下面是数据库连接到2个服务器的配置方法,第一个是写入的服务器,第二个是读取的服务器。

这里是连接2个服务器的例子

下面是读写分离的服务器上监控只读服务器上的sql语句运行情况的例子抓图




本文转自 jirigala 51CTO博客,原文链接:http://blog.51cto.com/2347979/1188403,如需转载请自行联系原作者

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
10月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的台风灾害分析及预测系统
针对台风灾害预警滞后、精度不足等问题,本研究基于Python与大数据技术,构建多源数据融合的台风预测系统。利用机器学习提升路径与强度预测准确率,结合Django框架实现动态可视化与实时预警,为防灾决策提供科学支持,显著提高应急响应效率,具有重要社会经济价值。
|
10月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的青少年网络使用情况分析及预测系统
本研究基于Python大数据技术,构建青少年网络行为分析系统,旨在破解现有防沉迷模式下用户画像模糊、预警滞后等难题。通过整合多平台亿级数据,运用机器学习实现精准行为预测与实时干预,推动数字治理向“数据驱动”转型,为家庭、学校及政府提供科学决策支持,助力青少年健康上网。
|
10月前
|
存储 分布式计算 大数据
基于Python大数据的的电商用户行为分析系统
本系统基于Django、Scrapy与Hadoop技术,构建电商用户行为分析平台。通过爬取与处理海量用户数据,实现行为追踪、偏好分析与个性化推荐,助力企业提升营销精准度与用户体验,推动电商智能化发展。
|
11月前
|
数据采集 数据可视化 关系型数据库
基于python大数据的电影数据可视化分析系统
电影分析与可视化平台顺应电影产业数字化趋势,整合大数据处理、人工智能与Web技术,实现电影数据的采集、分析与可视化展示。平台支持票房、评分、观众行为等多维度分析,助力行业洞察与决策,同时提供互动界面,增强观众对电影文化的理解。技术上依托Python、MySQL、Flask、HTML等构建,融合数据采集与AI分析,提升电影行业的数据应用能力。
|
11月前
|
数据采集 数据可视化 安全
基于python大数据的天气可视化分析预测系统
本研究探讨基于Python的天气预报数据可视化系统,旨在提升天气数据获取、分析与展示的效率与准确性。通过网络爬虫技术快速抓取实时天气数据,并运用数据可视化技术直观呈现天气变化趋势,为公众出行、农业生产及灾害预警提供科学支持,具有重要的现实意义与应用价值。
|
11月前
|
数据可视化 大数据 数据挖掘
基于python大数据的招聘数据可视化分析系统
本系统基于Python开发,整合多渠道招聘数据,利用数据分析与可视化技术,助力企业高效决策。核心功能包括数据采集、智能分析、可视化展示及权限管理,提升招聘效率与人才管理水平,推动人力资源管理数字化转型。
|
11月前
|
数据可视化 数据挖掘 大数据
基于python大数据的水文数据分析可视化系统
本研究针对水文数据分析中的整合难、分析单一和可视化不足等问题,提出构建基于Python的水文数据分析可视化系统。通过整合多源数据,结合大数据、云计算与人工智能技术,实现水文数据的高效处理、深度挖掘与直观展示,为水资源管理、防洪减灾和生态保护提供科学决策支持,具有重要的应用价值和社会意义。