mysql主从日志的定期清理

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
日志服务 SLS,月写入数据量 50GB 1个月
简介:

 mysql主从的binlog定时删除是很重要的,一般是通过expire_logs_days = 10来设置binlog保留的天数(mysql5.0一下版本不支持),但有时这还不够,假如有几天的日志量非常大,硬盘可能会满,所以不但要设置保留的天数,还要监控硬盘的空间使用情况。写了一个脚本,适合各个版本的mysql,保留3天的日志,当存放日志的硬盘使用率超过80%,则保留2天,但至少会保留一天的binlog日志文件。

 
  1. #!/bin/env python 
  2. # -*- coding: utf-8 -*- 
  3. ############################################################## 
  4. #查看存在binlog的目录位置并找出3天前的最后一个bin-log文件名字 
  5. #删除3天以前的binlog文件,删除之后data1目录挂载的硬盘使用率超 
  6. #过的80%的话,继续删除2天前的日志文件,至少保留一天的日志。 
  7. ############################################################## 
  8.  
  9. import os,sys,time,MySQLdb 
  10.  
  11. def log_w(text): 
  12.     logfile = "/usr/local/zabbix/bin/delet.log" 
  13.     now = time.strftime("%Y-%m-%d %H:%M:%S"
  14.     tt = now + "\t" + str(text) + "\n" 
  15.     f = open(logfile,'a+'
  16.     f.write(tt) 
  17.     f.close() 
  18.  
  19. def mysql_conn(port,lastlog,days): 
  20.     try
  21.         center_ip = '127.0.0.1' 
  22.         center_user = 'repl_monitor' 
  23.         center_passwd = 'VQMQLGwTaw3k0UV8' 
  24.         sql = "PURGE MASTER LOGS TO '%s';" % lastlog 
  25.         conn = MySQLdb.connect(host = center_ip,port = int(port),user = center_user,passwd = center_passwd,connect_timeout=5
  26.         cursor = conn.cursor()  
  27.         cursor.execute(sql) 
  28.         alldata = cursor.fetchall() 
  29.         cursor.close() 
  30.         conn.close() 
  31.         text = "Deltet before %s days binlog,deltet %s before !" % (days,lastlog) 
  32.         log_w(text) 
  33.     except Exception,e: 
  34.         log_w(e) 
  35.  
  36. def find_logdir(): 
  37.     conn = "find / -name binlog|grep -v usr" 
  38.     logdir_list = os.popen(conn).readlines() 
  39.     if len(logdir_list) != 0
  40.         for logdir in logdir_list: 
  41.             datadir = logdir.strip().split("/")[1
  42.             if "mysql_log" in logdir.strip(): 
  43.                 port = 3306 
  44.             else
  45.                 port = logdir.strip().split("/")[3].split("-")[-1
  46.             days = 3 
  47.             while 1
  48.                 conn = "find %s -mtime %s|sort" % (logdir.strip(),days) 
  49.                 count = os.popen(conn).readlines() 
  50.                 if len(count) != 0
  51.                     lastlog = count[-1].strip().split("/")[-1
  52.                     mysql_conn(port,lastlog,days) 
  53.  
  54.                 df = "df -h|grep -e '%s$'|awk '{print $5}'|awk -F '%%' '{print $1}'" % datadir 
  55.                 disk = os.popen(df).read().strip() 
  56.                 if not disk: 
  57.                     break 
  58.                 else
  59.                     if int(disk) < 80
  60.                         break 
  61.                     else
  62.                         days = days - 1 
  63.                         if days == 1
  64.                             break 
  65.     else
  66.         sys.exit() 
  67.  
  68. if __name__ == "__main__"
  69.     find_logdir() 

 



本文转自 lover00751CTO博客,原文链接:http://blog.51cto.com/wangwei007/1123088,如需转载请自行联系原作者

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
7月前
|
存储 数据采集 JavaScript
深入理解数仓开发(一)数据技术篇之日志采集
深入理解数仓开发(一)数据技术篇之日志采集
|
8月前
|
存储 关系型数据库 MySQL
mysql数据库如何做到定期备份
mysql数据库如何做到定期备份
772 2
|
SQL 关系型数据库 MySQL
docker上定期备份mysql数据库
本文是博主学习docker的记录,希望对大家有所帮助。
1385 0
|
消息中间件 数据采集 SQL
1、电商数仓(用户行为采集平台)数据仓库概念、用户行为日志、业务数据、模拟数据、用户行为数据采集模块、日志采集Flume(一)
1、电商数仓(用户行为采集平台)数据仓库概念、用户行为日志、业务数据、模拟数据、用户行为数据采集模块、日志采集Flume(一)
|
8月前
|
缓存 关系型数据库 MySQL
MySQL 查询优化:提速查询效率的13大秘籍(索引设计、查询优化、缓存策略、子查询优化以及定期表分析和优化)(中)
MySQL 查询优化:提速查询效率的13大秘籍(索引设计、查询优化、缓存策略、子查询优化以及定期表分析和优化)(中)
1242 0
|
6月前
|
DataWorks 监控 关系型数据库
利用 DataWorks 数据推送定期推播 MySQL 或 StarRocks Query 诊断信息
DataWorks 近期上线了数据推送功能,能够将数据库查询的数据组织后推送到各渠道 (如钉钉、飞书、企业微信及 Teams),除了能将业务数据组织后推送,也能将数据库自身提供的监控数据组织后推送,这边我们就以 MySQL (也适用于StarRocks) 为例,定期推播 MySQL 的数据量变化等信息,帮助用户掌握 MySQL 状态。
126 1
|
7月前
|
存储 关系型数据库 MySQL
MySQL定期整理磁盘碎片
MySQL定期整理磁盘碎片
82 2
|
6月前
|
存储 大数据 数据库
MySQL设计规约问题之为什么要利用pt-query-digest定期分析slow query log并进行优化
MySQL设计规约问题之为什么要利用pt-query-digest定期分析slow query log并进行优化
|
7月前
|
消息中间件 数据采集 关系型数据库
离线数仓(三)【业务日志采集平台搭建】(2)
离线数仓(三)【业务日志采集平台搭建】
|
7月前
|
消息中间件 前端开发 Kafka
离线数仓(二)【用户行为日志采集平台搭建】(1)
离线数仓(二)【用户行为日志采集平台搭建】

热门文章

最新文章