Python 日志打印之自定义logger handler

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: Python 日志打印之自定义logger handler

日志打印之自定义logger handler


#实践环境

WIN 10

Python 3.6.5

 

#实践代码


 

handler.py

#!/usr/bin/env python
# -*- coding:utf-8 -*-
'''
@Author : shouke
'''
import logging
import logging.config
class MyLogHandler(logging.Handler, object):
    """
    自定义日志handler
    """
    def __init__(self, name, other_attr=None, **kwargs):
        logging.Handler.__init__(self)
        print('初始化自定义日志处理器:', name)
        print('其它属性值:', other_attr)
    def emit(self, record):
        """
        emit函数为自定义handler类时必重写的函数,这里可以根据需要对日志消息做一些处理,比如发送日志到服务器
        发出记录(Emit a record)
        """
        try:
            msg = self.format(record)
            print('获取到的消息为:', msg)
            for item in dir(record):
                if item in ['process', 'processName', 'thread', 'threadName']:
                    print(item, ':', getattr(record, item))
        except Exception:
            self.handleError(record)
# 测试
logging.basicConfig()
logger = logging.getLogger("logger")
logger.setLevel(logging.INFO)
my_log_handler = MyLogHandler('LoggerHandler')
logger.addHandler(my_log_handler)
logger.info('hello,shouke')
运行handler.py,结果输出如下
初始化自定义日志处理器: LoggerHandler
其它属性值: None
获取到的消息为: hello,shouke
process : 27932
processName : MainProcess
thread : 45464
threadName : MainThread
INFO:logger:hello,shouke

#通过字典配置添加自定义handler

mytest.py(与handler.py位于同一层级目录)

#!/usr/bin/env python
# -*- coding:utf-8 -*-
#
#
# '''
# @CreateTime: 2020/12/29 14:08
# @Author : shouke
# '''
#
import logging
import logging.config
LOGGING_CONFIG = {
    "version": 1,
    "disable_existing_loggers": False,
    "formatters": {
        "default": {
            "format":"%(asctime)s %(filename)s %(lineno)s %(levelname)s : %(message)s",
        },
        "plain": {
            "format": "%(message)s",
        }
    },
    "handlers": {
        "customer_handler":{
            "class":"study.MyLogHandler",
            "formatter":"default",
            # 注意,class,formatter,level,filters之外的参数将默认传递给由class指定类的构造函数
            "name":"LoggerHandler",
            "other_attr":"something others"
        },
        "console": {
            "class": "logging.StreamHandler",
            "formatter": "default",
        },
    },
    "loggers": {
        "customer_logger":{
            "handlers": ["customer_handler", "console"],
            "level": logging.INFO,
            "propagate": False,
        }
    }
}
logging.config.dictConfig(LOGGING_CONFIG)
logger = logging.getLogger('customer_logger')
logger.info('hello,shouke')
运行mytest.py,输出结果如下
初始化自定义日志处理器: LoggerHandler
其它属性值: something others
获取到的消息为: 2021-01-01 17:51:54,661 mytest.py 48 INFO : hello,shouke
process : 36280
processName : MainProcess
thread : 37316
threadName : MainThread
INFO:logger:hello,shouke
2021-01-01 17:51:54,661 mytest5.py 48 INFO : hello,shouke。

##问题:为什么mytest.py中的代码,不能放在study.py中?

 

如下,在study.py模块,MyLogHandler类之后追加下述代码

LOGGING_CONFIG = {
    "version": 1,
    "disable_existing_loggers": False,
    "formatters": {
        "default": {
            "format":"%(asctime)s %(filename)s %(lineno)s %(levelname)s : %(message)s",
        }
    },
    "handlers": {
        "customer_handler":{
            "class":"study.MyLogHandler",
            "formatter":"default",
            "name":"LoggerHandler",
            "other_attr":"something others"
        }
    },
    "loggers": {
        "customer_logger":{
            "handlers": ["customer_handler"],
            "level": logging.INFO,
            "propagate": False,
        }
    }
}
logging.config.dictConfig(LOGGING_CONFIG)
logger = logging.getLogger('customer_logger')
logger.info('hello,shouke')
运行mytest.py,输出结果如下
初始化自定义日志处理器: LoggerHandler
其它属性值: something others
获取到的消息为: 2021-01-09 10:48:24,090 study.py 66 INFO : hello,shouke
process : 17276
processName : MainProcess
thread : 14516
threadName : MainThread
初始化自定义日志处理器: LoggerHandler
其它属性值: something others
获取到的消息为: 2021-01-09 10:48:24,090 study.py 66 INFO : hello,shouke
process : 17276
processName : MainProcess
thread : 14516
threadName : MainThread

如上,可以看到,自定义类构造函数被重复执行,日志消息被重复处理

 

 

##原因分析

logging.config.dictConfig(config)函数内部调用了DictConfigurator(config).configure(),而configure函数内DictConfigurator部,根据incremental,handlers等当前日志配置,被执行的分支代码中,会调用

DictConfigurator类实例的configure_handler()方法,该方法中,根据当前配置,又会再次调用DictConfigurator类实例的resolve(self, s)方法,参数s接收handler中class配置项目的值。具体代码如下:

LOGGING_CONFIG = {
    "version": 1,
    "disable_existing_loggers": False,
    "formatters": {
        "default": {
            "format":"%(asctime)s %(filename)s %(lineno)s %(levelname)s : %(message)s",
        }
    },
    "handlers": {
        "customer_handler":{
            "class":"study.MyLogHandler",
            "formatter":"default",
            "name":"LoggerHandler",
            "other_attr":"something others"
        }
    },
    "loggers": {
        "customer_logger":{
            "handlers": ["customer_handler"],
            "level": logging.INFO,
            "propagate": False,
        }
    }
}
logging.config.dictConfig(LOGGING_CONFIG)
logger = logging.getLogger('customer_logger')
logger.info('hello,shouke')
运行mytest.py,输出结果如下
初始化自定义日志处理器: LoggerHandler
其它属性值: something others
获取到的消息为: 2021-01-09 10:48:24,090 study.py 66 INFO : hello,shouke
process : 17276
processName : MainProcess
thread : 14516
threadName : MainThread
初始化自定义日志处理器: LoggerHandler
其它属性值: something others
获取到的消息为: 2021-01-09 10:48:24,090 study.py 66 INFO : hello,shouke
process : 17276
processName : MainProcess
thread : 14516
threadName : MainThread

至此,logging.config.dictConfig(config)放自定义日志处理类模块中,导致自定义日志处理类重复被执行的原因已经清楚了。

 

 

configure函数内部,根据incremental,handlers等当前日志配置,被执行的分支代码中,也可能执行DictConfigurator类实例的configure_formatter()方法,类似的,该方法中也会调用一个名为_resolve的方法,具体代码如下

def _resolve(name):
    """Resolve a dotted name to a global object."""
    name = name.split('.')
    used = name.pop(0)
    found = __import__(used)
    for n in name:
        used = used + '.' + n
        try:
            found = getattr(found, n)
        except AttributeError:
            __import__(used)
            found = getattr(found, n)
    return found

如果自定义Formatter,把logging.config.dictConfig(config)放自定义日志格式化类模块中,也可能导致重复执行

 

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
29天前
|
监控 数据挖掘 数据安全/隐私保护
Python脚本:自动化下载视频的日志记录
Python脚本:自动化下载视频的日志记录
|
1月前
|
Python
在Python中,自定义函数可以抛出自定义异常
在Python中,自定义函数可以抛出自定义异常
46 5
|
1月前
|
存储 开发者 Python
自定义Python的异常
自定义Python的异常
18 5
|
1月前
|
存储 JSON API
如何自定义Python环境变量?
如何自定义Python环境变量?
45 3
|
1月前
|
JSON Java 数据库
SpringBoot项目使用AOP及自定义注解保存操作日志
SpringBoot项目使用AOP及自定义注解保存操作日志
53 1
|
2月前
|
Python
python读写操作excel日志
主要是读写操作,创建表格
68 2
|
2月前
|
Python Windows
python知识点100篇系列(24)- 简单强大的日志记录器loguru
【10月更文挑战第11天】Loguru 是一个功能强大的日志记录库,支持日志滚动、压缩、定时删除、高亮和告警等功能。安装简单,使用方便,可通过 `pip install loguru` 快速安装。支持将日志输出到终端或文件,并提供丰富的配置选项,如按时间或大小滚动日志、压缩日志文件等。还支持与邮件通知模块结合,实现邮件告警功能。
python知识点100篇系列(24)- 简单强大的日志记录器loguru
|
2月前
|
数据采集 机器学习/深度学习 存储
使用 Python 清洗日志数据
使用 Python 清洗日志数据
49 2
|
3月前
|
Linux UED iOS开发
Python中的自定义进度条:从零开始
Python中的自定义进度条:从零开始
|
3月前
|
消息中间件 Kafka API
python之kafka日志
python之kafka日志
39 3

热门文章

最新文章