Python Logging 限制文件大小

简介: Python Logging 限制文件大小

Python Logging 限制文件大小
Python 的 logging 模块是一个强大的工具,用于记录和管理日志信息。在实际应用中,尤其是在长时间运行的程序中,日志文件可能会无限增大,从而导致存储资源不足或难以管理。为此,我们可以使用 RotatingFileHandler 或 TimedRotatingFileHandler 来限制日志文件的大小,确保日志管理的高效性。

使用 RotatingFileHandler 限制文件大小
RotatingFileHandler 简介
RotatingFileHandler 允许我们创建一个日志处理器,在达到指定文件大小时自动轮换日志文件。这样可以避免单个日志文件过大,同时保留一定数量的历史日志文件。

实例代码
下面是一个使用 RotatingFileHandler 的示例代码,其中限制日志文件大小为 1MB,并保留最多 5 个备份文件:

import logging
from logging.handlers import RotatingFileHandler

# 创建一个 logger 对象
logger = logging.getLogger("MyLogger")
logger.setLevel(logging.DEBUG)  # 设置日志级别为 DEBUG

# 创建一个 RotatingFileHandler,限制文件大小为 1 MB, 保留 5 个备份
handler = RotatingFileHandler(
    "my_log.log", maxBytes=1 * 1024 * 1024, backupCount=5
)
formatter = logging.Formatter('%(asctime)s - %(levelname)s - %(message)s')
handler.setFormatter(formatter)

# 将 handler 添加到 logger
logger.addHandler(handler)

# 测试日志输出
for i in range(10000):
    logger.debug(f"This is log message number {i}")

代码解释

  1. 导入模块:首先导入 logging 和 RotatingFileHandler。
  2. 创建 Logger:创建一个名为 MyLogger 的 logger 对象,并设置日志级别为 DEBUG。
  3. 配置 Handler:使用 RotatingFileHandler 创建一个日志处理器,设置最大文件大小为 1 MB(maxBytes=1 1024 1024),同时定义最多保留 5 个备份文件(backupCount=5)。
  4. 设置格式:定义日志的输出格式,包括时间、级别和消息内容。
  5. 添加 Handler:将处理器添加到 logger。
  6. 生成日志:通过循环生成大量日志信息,测试日志文件的轮换功能。
  7. 日志文件轮换
  8. 当 my_log.log 文件的大小达到 1 MB 时,RotatingFileHandler 会自动将当前日志文件重命名为 my_log.log.1,继而创建一个新的 my_log.log 文件来继续记录日志。若还有更早的日志文件,后续的文件依次递增编号,直到达到备份数量限制(在本例中为 5 个)。

使用 TimedRotatingFileHandler 按时间限制文件大小
如果你希望按时间周期来管理日志文件,可以使用 TimedRotatingFileHandler。该处理器允许根据设定的时间间隔(例如每小时、每天等)自动轮换日志文件。

实例代码
以下是一个使用 TimedRotatingFileHandler 的示例,设置每小时轮换一次日志文件:

import logging
from logging.handlers import TimedRotatingFileHandler

# 创建一个 logger 对象
logger = logging.getLogger("MyTimedLogger")
logger.setLevel(logging.DEBUG)  # 设置日志级别为 DEBUG

# 创建一个 TimedRotatingFileHandler,每小时轮换一次
handler = TimedRotatingFileHandler(
    "timed_log.log", when="H", interval=1, backupCount=3
)
formatter = logging.Formatter('%(asctime)s - %(levelname)s - %(message)s')
handler.setFormatter(formatter)

# 将 handler 添加到 logger
logger.addHandler(handler)

# 测试日志输出
for i in range(100):
    logger.debug(f"This is timed log message number {i}")

代码解释

  1. 导入模块:同样导入 logging 和 TimedRotatingFileHandler。
  2. 创建 Logger:创建一个名为 MyTimedLogger 的 logger 对象。
  3. 配置 Handler:使用 TimedRotatingFileHandler 创建一个日志处理器,设置每小时(when="H")轮换一次,并保留 3 个备份文件(backupCount=3)。
  4. 设置格式:与之前相同,定义日志输出格式。
  5. 添加 Handler:将处理器添加到 logger。
  6. 生成日志:生成一定数量的日志信息,以查看时间轮换效果。

总结
通过使用 Python 的 logging 模块及其 RotatingFileHandler 和 TimedRotatingFileHandler,我们可以有效管理日志文件的大小。这不仅有助于避免存储空间问题,还能保持日志的整洁和可读性。以上示例提供了基础的实现方式,可以根据需求进一步扩展和自定义日志功能。

相关实践学习
通过日志服务实现云资源OSS的安全审计
本实验介绍如何通过日志服务实现云资源OSS的安全审计。
相关文章
|
负载均衡 Ubuntu 应用服务中间件
|
存储 安全 Python
[python]使用标准库logging实现多进程安全的日志模块
[python]使用标准库logging实现多进程安全的日志模块
633 1
|
存储 缓存 算法
大文件 MD5 SHA 校验时间优化之路
【8月更文挑战第12天】处理大文件的MD5与SHA校验时,可通过选择高效算法实现、分块读取处理文件、利用多线程并行处理、采用硬件加速及缓存校验结果等方式优化校验时间。例如,使用性能良好的加密库如`pycryptodome`替代Python的标准`hashlib`库;分块读取文件并逐块计算哈希值,减少内存占用;利用多线程处理不同文件块;若条件允许,使用硬件加速如Intel AES-NI指令集;以及缓存重复校验的文件哈希值避免重算。这些策略可显著提高校验速度和系统效率。
1509 1
|
前端开发 JavaScript 数据库
https页面加载http资源的解决方法
https页面加载http资源的解决方法
599 5
|
Ubuntu 安全 网络协议
|
Ubuntu Windows
Ubuntu——切换阿里源
Ubuntu——切换阿里源
4744 0
Pyside6-第十一篇-QComboBox下拉列表
Pyside6-第十一篇-QComboBox下拉列表
1740 0