结合saltstack打造mysql dba数据库运维平台化salt-api接口

简介:

前言:

        这些日子两个项目齐头并进,按部就班的走,对于saltstack在开发中的经验,越发的丰富。

       希望这个mysql自动化运维项目能让自己更加dba。。。 和dba这帮人混了半个月,碉堡了,数据在他们手里玩得很转悠 ~ 


要实现的功能:


全网mysql的复制情况监控!  对于主从复制的同步的准确性,以及延迟对比。

使用saltstack api完成,可主动监控和被动监控,对于同步的准确性是靠一个虚拟的时间表来算时差的。


全网mysql的备份情况监控!  备份数据,而且上传到存储节点。

这边用的saltstack的jid来异步的执行任务,封装了一个rsync的模块进行上传。


全网mysql的存储文件大小!  备份文件检测,及空间大小监控。

借助zabbix的处罚报警,在zabbix里面参杂一个web hook的回调


关于mysql的可实时监控数据! 利用salt-api进行查看qps 速度 连接等相关信息的查看。

还是用saltstack 的模块执行,对于执行结果慢的结果,可以用returners组建实现消息的存储


对于读性能不行的mysql,记录慢查询语句,上报到通知平台。


对于mysql各种出错的问题进行,收集日志,并尝试解决。


运维平台直接操作业务部过来的sql语句,首先在预环境下测试,通过后,再流转到线上运维。


部署从服务器,及平台修改从服务器。


通过clusterops接口部署mysql需要的lvs及drbd环境。


mysql系统级别的监控,从zabbix获取该mysql的所有监控信息。


已经实现了部分功能,正在努力写码中!


具体的功能实现我就不不多说了,因为我也没有想到和做到那里,这里只要是给大家讲讲关于mysql运维平台的一些个思路。


这边是我实现的一个类似demo的半成品,要上线的话,还是要做大量的测试的。


原文:http://rfyiamcool.blog.51cto.com/1030776/1369237

wKiom1MUpGOQhYnCAAXFp2W9KpE342.jpg




 本文转自 rfyiamcool 51CTO博客,原文链接:http://blog.51cto.com/rfyiamcool/1369237,如需转载请自行联系原作者


相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
相关文章
|
运维 监控 关系型数据库
AI 时代的 MySQL 数据库运维解决方案
本文探讨了大模型与MySQL数据库运维结合所带来的变革,介绍了构建结构化运维知识库、选择合适的大模型、设计Prompt调用策略、开发MCP Server以及建立监控优化闭环等关键步骤。通过将自然语言处理能力与数据库运维相结合,实现了故障智能诊断、SQL自动优化等功能,显著提升了MySQL运维效率和准确性。
1091 18
|
人工智能 运维 关系型数据库
数据库运维:mysql 数据库迁移方法-mysqldump
本文介绍了MySQL数据库迁移的方法与技巧,重点探讨了数据量大小对迁移方式的影响。对于10GB以下的小型数据库,推荐使用mysqldump进行逻辑导出和source导入;10GB以上可考虑mydumper与myloader工具;100GB以上则建议物理迁移。文中还提供了统计数据库及表空间大小的SQL语句,并讲解了如何使用mysqldump导出存储过程、函数和数据结构。通过结合实际应用场景选择合适的工具与方法,可实现高效的数据迁移。
1865 1
|
运维 监控 数据可视化
一文拆解 YashanDB Cloud Manager,数据库运维原来还能这么“智能”!
传统数据库运维依赖人工,耗时耗力还易出错。YashanDB Cloud Manager(YCM)作为“智能运维管家”,实现主动、智能、可视化的运维体验。它提供实时资源监控、智能告警系统、自动巡检机制、高可用架构支持和强大的权限管理功能,帮助用户统一管理多实例与集群,减少人工干预,构建现代化数据库运维体系,让企业高效又安心地运行数据库服务。
|
人工智能 运维 关系型数据库
|
机器学习/深度学习 存储 运维
深度学习在数据库运维中的作用与实现
深度学习在数据库运维中的作用与实现
381 14
|
运维 监控 关系型数据库
AI 时代的 MySQL 数据库运维解决方案
本方案将大模型与MySQL运维深度融合,构建智能诊断、SQL优化与知识更新的自动化系统。通过知识库建设、大模型调用策略、MCP Server开发及监控闭环设计,全面提升数据库运维效率与准确性,实现从人工经验到智能决策的跃迁。
1298 27
|
机器学习/深度学习 SQL 运维
数据库出问题还靠猜?教你一招用机器学习优化运维,稳得一批!
数据库出问题还靠猜?教你一招用机器学习优化运维,稳得一批!
599 4
|
运维 NoSQL 容灾
告别运维噩梦:手把手教你将自建 MongoDB 平滑迁移至云数据库
程序员为何逃离自建MongoDB?扩容困难、运维复杂、高可用性差成痛点。阿里云MongoDB提供分钟级扩容、自动诊断与高可用保障,助力企业高效运维、降本增效,实现数据库“无感运维”。
|
SQL 运维 关系型数据库
数据库自治服务DAS:云数据库高效运维的最佳拍档
数据库自治服务DAS是阿里云推出的高效运维解决方案,旨在简化复杂数据库管理。DAS基于机器学习和专家经验,提供自修复、自防护、自优化功能,涵盖多源数据库支持、丰富的应用场景及端到端运维能力。其企业版引入AI技术,实现智能诊断与优化,显著提升数据库稳定性、安全性和性能。通过自动化处理常见问题,如SQL优化、容量规划等,DAS大幅降低人工干预需求,缩短故障恢复时间,助力企业实现高效、智能化的数据库运维管理。
1283 2
|
运维 监控 关系型数据库
数据库管理中的自动化运维:挑战与解决方案
数据库管理中的自动化运维:挑战与解决方案

推荐镜像

更多