python log日志 多线程安全

       python中的日志文件为logger，常用的有两个-RotatingFileHandler；TimedRotatingFileHandler。文件没满足分割条件前，保存在‘info.log’（自己命名的文件）中，如果满足分割条件，会生成‘info.log.1’。下一次满足分割条件后，将‘info.log’保存成‘info.log.1’,而‘info.log.1’顺延成‘info.log.2’；满足最多保存的个数后，会将其删掉。

       RotatingFileHandler，是按大小划分日志文件，使用方法如下。RotatingFileHandler是按文件大小自动分割保存，下文中设置的是1M保存一个文件，最多保存30个。此种方式支持多线程安全，支持软件的开关机（TimedRotatingFileHandler不支持，一旦关机，会重新计时）

import logging
from logging import handlers

def log_init():
    log = logging.getLogger('error.log')            # log保存位置
    format_str = log.Formatter('%(asctime)s - \     # log时间戳格式
        %(pathname)s[line:%(lineno)d] - %(levelname)s: %(message)s')                         
    log.setLevel(logging.DEBUG)                     # log日志等级（往下的内容不保存）
    sh = logging.StreamHandler()                    # 往屏幕上输出
    # filename:log文件名；maxBytes：超过最大尺寸，log会另存一个文件；
    # backupCount:最多保存多少个日志；encoding：保存编码格式
    th = handlers.RotatingFileHandler(filename='error.log', maxBytes=1024*1024, \
                                    backupCount=30, encoding='uft-8')        
    th.setFormatter(format_str)                     # 设置文件里写入的格式
    log.addHandler(sh)
    log.addHandler(th)
    return log

if __name__ == '__main__':
    log = log_init()
    log.debug('debug_msg')
    log.info('info_msg')
    log.warning('warning_msg')
    log.error('error_msg')
    log.critical('critical_msg')
           

        TimedRotatingFileHandler是按日期划分日志文件，使用方法如下。TimedRotatingFileHandler是按文件大小自动分割保存，下文中设置的是每天保存一个log文件，最多保存30个。此种方式支持多线程不安全，不支持软件的关机（软件关机后，会重新计时，如果经常关机的项目，会只记录在一个文件中）。

import logging
from logging import handlers

def log_init():
    log = logging.getLogger('error.log')            # log保存位置
    format_str = log.Formatter('%(asctime)s - \     # log时间戳格式
        %(pathname)s[line:%(lineno)d] - %(levelname)s: %(message)s')                         
    log.setLevel(logging.DEBUG)                     # log日志等级（往下的内容不保存）
    sh = logging.StreamHandler()                    # 往屏幕上输出
    # filename:log文件名；when：多久另存一个文件（S/M/H/D/W/midnight）；
    # backupCount:最多保存多少个日志；encoding：保存编码格式
    th = handlers.TimedRotatingFileHandler(filename='error.log', when='D', \
                                    backupCount=30, encoding='uft-8')        
    th.setFormatter(format_str)                     # 设置文件里写入的格式
    log.addHandler(sh)
    log.addHandler(th)
    return log

if __name__ == '__main__':
    log = log_init()
    log.debug('debug_msg')
    log.info('info_msg')
    log.warning('warning_msg')
    log.error('error_msg')
    log.critical('critical_msg')
           

       如果想多线程使用TimedRotatingFileHandler，就需要自己写一个线程，然后每一个log往消息队列中丢，用线程处理这个消息队列。Queue是线程安全的，所以作为消息队列使用没有影响。

import time
import _thread
import logging
from logging import handlers
from queue import Queue

logs_queue = Queue()

class LogMsg(object):
    def __init__(self, type, msg):
        self._type = type
        self._msg = msg

def log_init():
    log = logging.getLogger('error.log')            # log保存位置
    format_str = log.Formatter('%(asctime)s - \     # log时间戳格式
        %(pathname)s[line:%(lineno)d] - %(levelname)s: %(message)s')                         
    log.setLevel(logging.DEBUG)                     # log日志等级（往下的内容不保存）
    sh = logging.StreamHandler()                    # 往屏幕上输出
    # filename:log文件名；when：多久另存一个文件（S/M/H/D/W/midnight）；
    # backupCount:最多保存多少个日志；encoding：保存编码格式
    th = handlers.TimedRotatingFileHandler(filename='error.log', when='D', \
                                    backupCount=30, encoding='uft-8')        
    th.setFormatter(format_str)                     # 设置文件里写入的格式
    log.addHandler(sh)
    log.addHandler(th)
    return log

def cop_log_queue(logger):
    while True:
        if logs_queue.empty():
           time.sleep(1)
        log_msg = logs_queue.get()
        if log_msg._type == 'debug':
            logger.debug(log_msg._msg)
        elif log_msg._type == 'info':
            logger.info(log_msg._msg)
        elif log_msg._type == 'warning':
            logger.warning(log_msg._msg)
        elif log_msg._type == 'error':
            logger.error(log_msg._msg)
        elif log_msg._type == 'critical':
            logger.critical(log_msg._msg)

def error_thread1():
    while True:
        logs_queue.put(LogMsg('debug','debug_msg'))
        time.sleep(1)

def error_thread2():
    while True:
        logs_queue.put(LogMsg('info','info_msg'))
        time.sleep(1)

if __name__ == '__main__':
    logger = log_init()
    _thread.start_new_thread(cope_log_queue, (logger, ))
    _thread.start_new_thread(error_thread1, ())
    _thread.start_new_thread(error_thread2, ())