go语言后端开发学习(四) —— 在go项目中使用Zap日志库

简介: 本文详细介绍了如何在Go项目中集成并配置Zap日志库。首先通过`go get -u go.uber.org/zap`命令安装Zap,接着展示了`Logger`与`Sugared Logger`两种日志记录器的基本用法。随后深入探讨了Zap的高级配置,包括如何将日志输出至文件、调整时间格式、记录调用者信息以及日志分割等。最后,文章演示了如何在gin框架中集成Zap,通过自定义中间件实现了日志记录和异常恢复功能。通过这些步骤,读者可以掌握Zap在实际项目中的应用与定制方法

一.前言

在之前的文章中我们已经介绍过如何使用logrus包来作为我们在gin框架中使用的日志中间件,而今天我们要介绍的就是我们如何在go项目中如何集成Zap来作为日志中间件

二.Zap的安装与快速使用

和安装其他第三方包没什么区别,我们下载Zap包只需要执行以下命令

go get -u go.uber.org/zap

在Zap的矿方说明中,给出了两种类型的日志记录器——LoggerSugared Logger,在不同场景下我们可以选择使用不同的日志记录器:

Logger:性能比较好,但是仅支持强类型输出的日志,适合在每一微秒和每一次内存分配都很重要的上下文中,使用Logger
Sugared Logger:它支持结构化和printf风格的日志记录。适合在性能很好但不是很关键的上下文中,使用SugaredLogger

接下来我将用两个简单的demo来展示一下我们如何使用这两种日志记录器:

//Logger
package main

import (
    "go.uber.org/zap"
    "net/http"
)

var logger *zap.Logger

func main() {
   
   
    InitLogger()
    defer logger.Sync() //等到全部日志写入,将缓冲区中的日志写入磁盘
    SimpleHttpGet("www.baidu.com") //这行代码会报错,仅做展示错误日志信息的打印
    SimpleHttpGet("https://www.kugou.com")
}

func InitLogger() {
   
   
    logger, _ = zap.NewProduction()
}

func SimpleHttpGet(url string) {
   
   
    re, err := http.Get(url)
    if err != nil {
   
   
        logger.Error("Error fetching url", zap.String("url", url), zap.Error(err))
    } else {
   
   
        logger.Info("Success fetching url", zap.String("statusCode", re.Status), zap.String("url", url))
    }
    re.Body.Close()
}

//SugarLogger
package main

import (
    "go.uber.org/zap"
    "net/http"
)

var sugarlogger *zap.SugaredLogger

func main() {
   
   
    InitLogger()
    defer sugarlogger.Sync() //等到全部日志写入,将缓冲区中的日志写入磁盘
    SimpleHttpGet("www.baidu.com")
    SimpleHttpGet("https://www.kugou.com")
}

func InitLogger() {
   
   
    logger, _ := zap.NewProduction() 
    sugarlogger = logger.Sugar()
}

func SimpleHttpGet(url string) {
   
   
    re, err := http.Get(url)
    if err != nil {
   
   
        sugarlogger.Error("Error fetching url", zap.String("url", url), zap.Error(err))
    } else {
   
   
        sugarlogger.Info("Success fetching url", zap.String("statusCode", re.Status), zap.String("url", url))
    }
    re.Body.Close()
}

三.Zap的配置

Zap的使用其实是比较简单的,但是如何去配置出一个适合我们自己项目的日志中间件其实也是比较困难,下面博主将一步步的实现的一个简单的日志中间件示例,下面开始吧!

1.让日志输入到文件中

在我们日常开发模式时,我们一般会将日志的错误信息打印在控制台上,这样可以方便我们去调试错误,但是在生产模式下,让错误信息打印在控制台上无疑是不大可能得了,我们一般会选择将日志信息录入到文件中,接下来让我们来尝试一下修改日志信息的输入路径。

为了修改日志信息的输出路径,我们这里就不会在通过NewProduction来自动创建logger对象了,而是我们自己通过New这一函数来手动传递配置了,在开始之前我们来看一下New这一函数:

func New(core zapcore.Core, options ...Option)

而这里我们所要配置的就是corezapcore.Core需要三个配置:

  • Encoder:它决定了我们以何种形式写入日志,比如我们可以使用Json格式来作为我们书写日志的格式
  • WriteSyncer:它决定了我们要将日志写到什么地方去
  • LogLevel:它决定了哪些级别的日志会被写入到日志文件中去

接下来我们尝试将日志打印在test.log中,并且用Jsontext两种格式来打印到文件中:

package main

import (
    "go.uber.org/zap"
    "go.uber.org/zap/zapcore"
    "net/http"
    "os"
)

var sugarlogger *zap.SugaredLogger

func main() {
   
   
    InitLogger()
    defer sugarlogger.Sync() //等到全部日志写入,将缓冲区中的日志写入磁盘
    SimpleHttpGet("www.baidu.com")
    SimpleHttpGet("https://www.kugou.com")
}

func InitLogger() {
   
   
    encoder := InitEncoder()
    level := InitLevel()
    writer := InitWriter()
    core := zapcore.NewCore(encoder, writer, level)
    sugarlogger = zap.New(core).Sugar()
}

func InitEncoder() zapcore.Encoder {
   
   
    return zapcore.NewJSONEncoder(zap.NewProductionEncoderConfig())
}

func InitWriter() zapcore.WriteSyncer {
   
   
    file, _ := os.Create("G:\\bluebell\\src\\demo\\log\\test.log")
    return zapcore.AddSync(file)
}

func InitLevel() zapcore.Level {
   
   
    return zapcore.ErrorLevel
}
func SimpleHttpGet(url string) {
   
   
    re, err := http.Get(url)
    if err != nil {
   
   
        sugarlogger.Error("Error fetching url", zap.String("url", url), zap.Error(err))
    } else {
   
   
        sugarlogger.Info("Success fetching url", zap.String("statusCode", re.Status), zap.String("url", url))
    }
    re.Body.Close()
}

运行结果如下:
在这里插入图片描述
我们可以看到文件已经输入到json.log中了。

当然我们也可以使用正常的text格式

package main

import (
    "go.uber.org/zap"
    "go.uber.org/zap/zapcore"
    "net/http"
    "os"
)

var sugarlogger *zap.SugaredLogger

func main() {
   
   
    InitLogger()
    defer sugarlogger.Sync() //等到全部日志写入,将缓冲区中的日志写入磁盘
    SimpleHttpGet("www.baidu.com")
    SimpleHttpGet("https://www.kugou.com")
}

func InitLogger() {
   
   
    encoder := InitEncoder()
    level := InitLevel()
    writer := InitWriter()
    core := zapcore.NewCore(encoder, writer, level)
    sugarlogger = zap.New(core).Sugar()
}

func InitEncoder() zapcore.Encoder {
   
   
    return zapcore.NewConsoleEncoder(zap.NewProductionEncoderConfig())
}

func InitWriter() zapcore.WriteSyncer {
   
   
    file, _ := os.Create("G:\\bluebell\\src\\demo\\log\\text.log")
    return zapcore.AddSync(file)
}

func InitLevel() zapcore.Level {
   
   
    return zapcore.ErrorLevel
}
func SimpleHttpGet(url string) {
   
   
    re, err := http.Get(url)
    if err != nil {
   
   
        sugarlogger.Error("Error fetching url", zap.String("url", url), zap.Error(err))
    } else {
   
   
        sugarlogger.Info("Success fetching url", zap.String("statusCode", re.Status), zap.String("url", url))
    }
    re.Body.Close()
}

运行结果:
在这里插入图片描述

2.修改时间编码,将调用函数信息记录在日志中

在上面日志输出中我们可以看到两个比较大的问题:

  • 时间是以非人类可读的方式展示,像1.7233697314262748e+09这样
  • 日志没有调用方的信息我们很难确定错误的位置

所以我们现在要做的就是以下修改:

  • 修改时间编码器
  • 让日志文件中存在调用者信息

首先是修改时间编码器:

func InitEncoder() zapcore.Encoder {
   
   
    encoderConfig := zap.NewProductionEncoderConfig()
    encoderConfig.EncodeTime = zapcore.ISO8601TimeEncoder
    encoderConfig.EncodeLevel = zapcore.CapitalLevelEncoder //在日志文件中使用大写字母记录日志级别
    return zapcore.NewConsoleEncoder(encoderConfig)
}

运行结果如下:

2024-08-11T18:14:02.328+0800    INFO    Success fetching url{statusCode 15 0 403 Forbidden <nil>} {url 15 0 https://www.kugou.com <nil>}

最后我们添加将调用函数信息记录到日志中的功能,这里我们需要修改一下代码:

func InitLogger() {
   
   
    encoder := InitEncoder()
    level := InitLevel()
    writer := InitWriter()
    core := zapcore.NewCore(encoder, writer, level)
    sugarlogger = zap.New(core,zap.AddCaller()).Sugar()
}

这样我们就能看到调用信息了:

 2024-08-11T19:00:52.831+0800    INFO    main/main.go:47    Success fetching url{statusCode 15 0 403 Forbidden <nil>} {url 15 0 https://www.kugou.com <nil>}

拓展:AddCallerSkip
在日志记录过程中,我们通常希望在日志消息中包含准确的调用信息(即,记录日志的代码行)。例如,如果你在 main.go 文件的第 10 行调用了 logger.Info("Message"),你希望日志记录显示调用发生在 main.go:10。
但是,如果你将日志记录封装到另一个函数中,例如:

func logInfo(msg string) {
   
   
    logger.Info(msg)
}

这样返回的值就不是准确的日志记录问题了,因为日志记录的调用栈就会增加一层,因为实际上 logger.Info 是由logInfo 函数调用的。如果不调整调用栈深度,日志中可能会显示 logInfo 函数的调用位置,而不是实际的日志记录位置。

AddCallerSkip 函数用于调整日志记录库中记录调用信息的调用栈深度。它可以让你指定跳过多少层调用栈,从而准确获取实际的日志记录位置。

所以我们最后的InitLogger函数是这样的:

func InitLogger() {
   
   
    encoder := InitEncoder()
    level := InitLevel()
    writer := InitWriter()
    core := zapcore.NewCore(encoder, writer, level)
    sugarlogger = zap.New(core, zap.AddCaller(),zap.AddCallerSkip(1)).Sugar()
}

3.如何将日志输出到多个位置或将特定级别日志输入到单独文件

  • 将日志输出到多个位置
    func InitWriter() zapcore.WriteSyncer {
         
         
      file, _ := os.Create("G:\\bluebell\\src\\demo\\log\\text.log")
      os := io.MultiWriter(os.Stdout, file)  //既输入到控制台也输入到日志文件中
      return zapcore.AddSync(os)
    }
    
  • 将特定级别日志输入到单独文件(以error为例)
    func InitLogger() {
         
         
      encoder := InitEncoder()
      level := InitLevel()
      writer := InitWriter()
      c1 := zapcore.NewCore(encoder, writer, level) //记录全部日志
      errF, _ := os.Create("G:\\bluebell\\src\\demo\\log\\err.log")
      c2 := zapcore.NewCore(encoder, zapcore.AddSync(errF), zap.ErrorLevel) //记录错误日志
      core := zapcore.NewTee(c1, c2)                                        // tee将日志输出到多个目的地
      sugarlogger = zap.New(core, zap.AddCaller(), zap.AddCallerSkip(1)).Sugar()
    }
    

以上完整代码如下:

package main

import (
    "go.uber.org/zap"
    "go.uber.org/zap/zapcore"
    "io"
    "net/http"
    "os"
)

var sugarlogger *zap.SugaredLogger

func main() {
   
   
    InitLogger()
    defer sugarlogger.Sync() //等到全部日志写入,将缓冲区中的日志写入磁盘
    SimpleHttpGet("https://www.kugou.com")
    SimpleHttpGet("www.baidu.com")
}

func InitLogger() {
   
   
    encoder := InitEncoder()
    level := InitLevel()
    writer := InitWriter()
    c1 := zapcore.NewCore(encoder, writer, level) //记录全部日志
    errF, _ := os.Create("G:\\bluebell\\src\\demo\\log\\err.log")
    c2 := zapcore.NewCore(encoder, zapcore.AddSync(errF), zap.ErrorLevel) //记录错误日志
    core := zapcore.NewTee(c1, c2)                                        // tee将日志输出到多个目的地
    sugarlogger = zap.New(core, zap.AddCaller(), zap.AddCallerSkip(1)).Sugar()
}

func InitEncoder() zapcore.Encoder {
   
   
    encoderConfig := zap.NewProductionEncoderConfig()
    encoderConfig.EncodeTime = zapcore.ISO8601TimeEncoder
    encoderConfig.EncodeLevel = zapcore.CapitalLevelEncoder //在日志文件中使用大写字母记录日志级别
    return zapcore.NewConsoleEncoder(encoderConfig)
}

func InitWriter() zapcore.WriteSyncer {
   
   
    file, _ := os.Create("G:\\bluebell\\src\\demo\\log\\text.log")
    os := io.MultiWriter(os.Stdout, file)
    return zapcore.AddSync(os)
}

func InitLevel() zapcore.Level {
   
   
    return zapcore.DebugLevel
}
func SimpleHttpGet(url string) {
   
   
    re, err := http.Get(url)
    if err != nil {
   
   
        sugarlogger.Error("Error fetching url", zap.String("url", url), zap.Error(err))
    } else {
   
   
        sugarlogger.Info("Success fetching url", zap.String("statusCode", re.Status), zap.String("url", url))
    }
    re.Body.Close()
}

四.Zap实现日志分割

日志切割可以使用Lumberjack这一第三方包,可以按照下面这个命令下载:

go get gopkg.in/natefinch/lumberjack.v2

最后我们来开一下怎么加入支持:

func InitWriter() zapcore.WriteSyncer {
   
   
    lumberjackLogger := &lumberjack.Logger{
   
   
        Filename:   "G:\\bluebell\\src\\demo\\log\\app.log", //日志文件路径
        MaxSize:    1,                                       //每个日志文件保存的最大尺寸 单位:MB
        MaxBackups: 5,                                       //最多保存多少个日志文件
        MaxAge:     30,                                      //日志文件最多保存多少天
        Compress:   false,                                   //是否压缩
    }
    return zapcore.AddSync(lumberjackLogger)
}

这样就实现了一个简单的日志分割了。

五.在gin框架中集成Zap日志库

在很早之前博主就写过gin.Default会调用Logger(), Recovery()这两个中间件,,所我们想在gin框架中集成Zap日志库只需要重写一下这两个中间件就可以了:

func GinLogger() gin.HandlerFunc {
   
   
    return func(c *gin.Context) {
   
   
        start := time.Now()
        path := c.Request.URL.Path
        query := c.Request.URL.RawQuery
        c.Next()
        cost := time.Since(start)
        logger.Info(path,
            zap.Int("status", c.Writer.Status()),
            zap.String("method", c.Request.Method),
            zap.String("path", path),
            zap.String("query", query),
            zap.String("ip", c.ClientIP()),
            zap.String("user-agent", c.Request.UserAgent()),
            zap.String("errors", c.Errors.ByType(gin.ErrorTypePrivate).String()),
            zap.Duration("cost", cost),
        )
    }
}

// GinRecovery recover掉项目可能出现的panic
func GinRecovery(stack bool) gin.HandlerFunc {
   
   
    return func(c *gin.Context) {
   
   
        defer func() {
   
   
            if err := recover(); err != nil {
   
   
                // Check for a broken connection, as it is not really a
                // condition that warrants a panic stack trace.
                var brokenPipe bool
                if ne, ok := err.(*net.OpError); ok {
   
   
                    if se, ok := ne.Err.(*os.SyscallError); ok {
   
   
                        if strings.Contains(strings.ToLower(se.Error()), "broken pipe") || strings.Contains(strings.ToLower(se.Error()), "connection reset by peer") {
   
   
                            brokenPipe = true
                        }
                    }
                }

                httpRequest, _ := httputil.DumpRequest(c.Request, false)
                if brokenPipe {
   
   
                    logger.Error(c.Request.URL.Path,
                        zap.Any("error", err),
                        zap.String("request", string(httpRequest)),
                    )
                    // If the connection is dead, we can't write a status to it.
                    c.Error(err.(error)) // nolint: err check
                    c.Abort()
                    return
                }

                if stack {
   
   
                    logger.Error("[Recovery from panic]",
                        zap.Any("error", err),
                        zap.String("request", string(httpRequest)),
                        zap.String("stack", string(debug.Stack())),
                    )
                } else {
   
   
                    logger.Error("[Recovery from panic]",
                        zap.Any("error", err),
                        zap.String("request", string(httpRequest)),
                    )
                }
                c.AbortWithStatus(http.StatusInternalServerError)
            }
        }()
        c.Next()
    }
}

最后得到的就是我们的最终log文件代码:

package main

import (
    "github.com/gin-gonic/gin"
    "go.uber.org/zap"
    "go.uber.org/zap/zapcore"
    "gopkg.in/natefinch/lumberjack.v2"
    "net"
    "net/http"
    "net/http/httputil"
    "os"
    "runtime/debug"
    "strings"
    "time"
)

var logger *zap.Logger

func main() {
   
   
    r := gin.New()
    r.Use(GinLogger(), GinRecovery(true))
}

func GinLogger() gin.HandlerFunc {
   
   
    return func(c *gin.Context) {
   
   
        start := time.Now()
        path := c.Request.URL.Path
        query := c.Request.URL.RawQuery
        c.Next()
        cost := time.Since(start)
        logger.Info(path,
            zap.Int("status", c.Writer.Status()),
            zap.String("method", c.Request.Method),
            zap.String("path", path),
            zap.String("query", query),
            zap.String("ip", c.ClientIP()),
            zap.String("user-agent", c.Request.UserAgent()),
            zap.String("errors", c.Errors.ByType(gin.ErrorTypePrivate).String()),
            zap.Duration("cost", cost),
        )
    }
}

// GinRecovery recover掉项目可能出现的panic
func GinRecovery(stack bool) gin.HandlerFunc {
   
   
    return func(c *gin.Context) {
   
   
        defer func() {
   
   
            if err := recover(); err != nil {
   
   
                // Check for a broken connection, as it is not really a
                // condition that warrants a panic stack trace.
                var brokenPipe bool
                if ne, ok := err.(*net.OpError); ok {
   
   
                    if se, ok := ne.Err.(*os.SyscallError); ok {
   
   
                        if strings.Contains(strings.ToLower(se.Error()), "broken pipe") || strings.Contains(strings.ToLower(se.Error()), "connection reset by peer") {
   
   
                            brokenPipe = true
                        }
                    }
                }

                httpRequest, _ := httputil.DumpRequest(c.Request, false)
                if brokenPipe {
   
   
                    logger.Error(c.Request.URL.Path,
                        zap.Any("error", err),
                        zap.String("request", string(httpRequest)),
                    )
                    // If the connection is dead, we can't write a status to it.
                    c.Error(err.(error)) // nolint: err check
                    c.Abort()
                    return
                }

                if stack {
   
   
                    logger.Error("[Recovery from panic]",
                        zap.Any("error", err),
                        zap.String("request", string(httpRequest)),
                        zap.String("stack", string(debug.Stack())),
                    )
                } else {
   
   
                    logger.Error("[Recovery from panic]",
                        zap.Any("error", err),
                        zap.String("request", string(httpRequest)),
                    )
                }
                c.AbortWithStatus(http.StatusInternalServerError)
            }
        }()
        c.Next()
    }
}

func InitLogger() {
   
   
    encoder := InitEncoder()
    level := InitLevel()
    writer := InitWriter()
    c1 := zapcore.NewCore(encoder, writer, level) //记录全部日志
    errF, _ := os.Create("G:\\bluebell\\src\\demo\\log\\err.log")
    c2 := zapcore.NewCore(encoder, zapcore.AddSync(errF), zap.ErrorLevel) //记录错误日志
    core := zapcore.NewTee(c1, c2)                                        // tee将日志输出到多个目的地
    logger = zap.New(core, zap.AddCaller(), zap.AddCallerSkip(1))
}

func InitEncoder() zapcore.Encoder {
   
   
    encoderConfig := zap.NewProductionEncoderConfig()
    encoderConfig.EncodeTime = zapcore.ISO8601TimeEncoder
    encoderConfig.EncodeLevel = zapcore.CapitalLevelEncoder //在日志文件中使用大写字母记录日志级别
    return zapcore.NewConsoleEncoder(encoderConfig)
}

func InitWriter() zapcore.WriteSyncer {
   
   
    lumberjackLogger := &lumberjack.Logger{
   
   
        Filename:   "G:\\bluebell\\src\\demo\\log\\app.log", //日志文件路径
        MaxSize:    1,                                       //每个日志文件保存的最大尺寸 单位:MB
        MaxBackups: 5,                                       //最多保存多少个日志文件
        MaxAge:     30,                                      //日志文件最多保存多少天
        Compress:   false,                                   //是否压缩
    }
    return zapcore.AddSync(lumberjackLogger)
}

func InitLevel() zapcore.Level {
   
   
    return zapcore.DebugLevel
}
相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
相关文章
|
7月前
|
算法 Java Go
【GoGin】(1)上手Go Gin 基于Go语言开发的Web框架,本文介绍了各种路由的配置信息;包含各场景下请求参数的基本传入接收
gin 框架中采用的路优酷是基于httprouter做的是一个高性能的 HTTP 请求路由器,适用于 Go 语言。它的设计目标是提供高效的路由匹配和低内存占用,特别适合需要高性能和简单路由的应用场景。
585 4
|
9月前
|
数据采集 数据挖掘 测试技术
Go与Python爬虫实战对比:从开发效率到性能瓶颈的深度解析
本文对比了Python与Go在爬虫开发中的特点。Python凭借Scrapy等框架在开发效率和易用性上占优,适合快速开发与中小型项目;而Go凭借高并发和高性能优势,适用于大规模、长期运行的爬虫服务。文章通过代码示例和性能测试,分析了两者在并发能力、错误处理、部署维护等方面的差异,并探讨了未来融合发展的趋势。
926 0
|
7月前
|
JavaScript 前端开发 Java
【GoWails】Go做桌面应用开发?本篇文章带你上手Wails框架!一步步带你玩明白前后端双端的数据绑定!
wails是一个可以让你使用Go和Web技术编写桌面应用的项目 可以将它看作Go的快并且轻量级的Electron替代品。可以使用Go的功能,并结合现代化UI完成桌面应用程序的开发
1360 5
|
7月前
|
存储 安全 Java
【Golang】(4)Go里面的指针如何?函数与方法怎么不一样?带你了解Go不同于其他高级语言的语法
结构体可以存储一组不同类型的数据,是一种符合类型。Go抛弃了类与继承,同时也抛弃了构造方法,刻意弱化了面向对象的功能,Go并非是一个传统OOP的语言,但是Go依旧有着OOP的影子,通过结构体和方法也可以模拟出一个类。
372 3
|
9月前
|
Cloud Native Go API
Go:为云原生而生的高效语言
Go:为云原生而生的高效语言
568 0
|
9月前
|
Cloud Native Java Go
Go:为云原生而生的高效语言
Go:为云原生而生的高效语言
399 0
|
9月前
|
Cloud Native Java 中间件
Go:为云原生而生的高效语言
Go:为云原生而生的高效语言
446 0
|
监控 安全 Apache
什么是Apache日志?为什么Apache日志分析很重要?
Apache是全球广泛使用的Web服务器软件,支持超过30%的活跃网站。它通过接收和处理HTTP请求,与后端服务器通信,返回响应并记录日志,确保网页请求的快速准确处理。Apache日志分为访问日志和错误日志,对提升用户体验、保障安全及优化性能至关重要。EventLog Analyzer等工具可有效管理和分析这些日志,增强Web服务的安全性和可靠性。
572 9
|
12月前
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
1143 54

热门文章

最新文章