Go语言微服务框架 - 11.接口的参数校验功能-buf中引入PGV

简介: 大量开发接口的朋友会经常遇到**接口参数校验**的问题。举个例子,我们希望将某个字段是必填的,如`name`,我们经常会需要做两步:1. 在程序中加一个**判断逻辑**,当这个字段为空时返回错误给调用方2. 在接口文档中加上**注释**,告诉调用方这个参数必填一旦某项工作被拆分为两步,就很容易出现**不一致性**:对应到参数检查,我们会经常遇到文档和具体实现不一致,从而导致双方研发的沟通成本增加。那么,今天我将引入一个方案,实现两者的一致性。

随着API在线文档的发布,服务的接口将会被开放给各种各样的调用方。

大量开发接口的朋友会经常遇到接口参数校验的问题。举个例子,我们希望将某个字段是必填的,如name,我们经常会需要做两步:

  1. 在程序中加一个判断逻辑,当这个字段为空时返回错误给调用方
  2. 在接口文档中加上注释,告诉调用方这个参数必填

一旦某项工作被拆分为两步,就很容易出现不一致性:对应到参数检查,我们会经常遇到文档和具体实现不一致,从而导致双方研发的沟通成本增加。那么,今天我将引入一个方案,实现两者的一致性。

为了缩小讨论范围,我们将 参数校验 限定为简单规则。

而复合条件的检查(逻辑组合等),不在本次的讨论范围内,主要考虑到2点:

  1. 要生成跨语言的方案,技术上比较难实现
  2. 复合条件往往是一种业务逻辑的检查,放在接口层面不合适

v0.7.1:接口的参数校验功能

项目链接 https://github.com/Junedayday/micro_web_service/tree/v0.7.1

目标

在线接口文档提供参数校验的逻辑,并自动生成相关代码。

关键技术点

  1. 参数校验的技术选型
  2. 在buf中引入PGV
  3. 在框架中引入参数检查
  4. buf格式检查

目录构造

--- micro_web_service            项目目录
    |-- gen                            从idl文件夹中生成的文件,不可手动修改
       |-- idl                             对应idl文件夹
          |-- demo                             对应idl/demo服务,包括基础结构、HTTP接口、gRPC接口
            |-- order                            对应idl/order服务,同上
     |-- swagger.json                    openapiv2的接口文档
    |-- idl                            原始的idl定义
       |-- demo                            业务package定义,protobuffer的原始定义
       |-- order                           业务order定义,同时干
    |-- internal                       项目的内部代码,不对外暴露
       |-- config                          配置相关的文件夹,viper的相关加载逻辑
       |-- dao                             Data Access Object层,是model层的实现
       |-- gormer                          从pkg/gormer中生成的相关代码,不允许更改
       |-- model                           model层,定义对象的接口方法,具体实现在dao层
       |-- mysql                           MySQL连接
       |-- server                          服务器的实现,对idl中定义服务的具体实现
       |-- service                         service层,作为领域实现的核心部分
     |-- zlog                            封装zap日志的代码实现
  |-- pkg                            开放给第三方的工具库
     |-- gormer                          gormer二进制工具,用于生成Gorm相关Dao层代码
    |-- buf.gen.yaml                   修改:buf生成代码的定义,新增参数校验逻辑
    |-- buf.yaml                       buf工具安装所需的工具,从v1beta升到v1
    |-- gen.sh                         生成代码的脚本:buf+gormer
    |-- go.mod                         Go Module文件
    |-- gormer.yaml                    将gormer中的参数移动到这里
    |-- main.go                        项目启动的main函数
    |-- swagger.sh                     生成openapiv2的相关脚本

1.参数校验的技术选型

从搜索引擎可知,protobuf的主流参数校验采用两者:

  1. go-proto-validators https://github.com/mwitkow/go-proto-validators
  2. protoc-gen-validate https://github.com/envoyproxy/protoc-gen-validate

这里,我们最终选用的是protoc-gen-validate(PGV),决定性的理由有两个:

  1. buf的官方文档更倾向于PGV - https://docs.buf.build/lint/rules/#custom-options
  2. PGV由envoy背书,长期来看更具维护性

2.在buf中引入PGV

protoc-gen-validate(PGV)作为一款插件,它已经被集成在了buf工具中。这次,我们就从其调用的顺序,来理解一下buf里的重要文件:

2.1 核心文件 - buf.yaml

具体引用路径可以在buf库 - https://buf.build/ 搜索找到,然后在文件中里添加一个依赖项:

deps:
  - buf.build/envoyproxy/protoc-gen-validate

2.2 生成的定义文件 - buf.gen.yaml

这个文件定义了我们要生成什么样的代码,具体增加如下:

plugins:
  - name: validate
    out: gen
    opt:
      - paths=source_relative
      - lang=go

其中,要注意opt选项要增加一个参数lang=go,类似的,我们也可以生成其余语言的代码。

2.3 proto定义文件

我们以分页参数为例,添加2条规则,即要求页码、每页数量均大于0。

import "validate/validate.proto";

message ListOrdersRequest {
  int32 page_number = 1 [(validate.rules).int32 = {gt: 0}];
  int32 page_size = 2   [(validate.rules).int32 = {gt: 0}];
}

2.4 生成相关代码

因为我们引入了一个新的模块,所以先需要更新依赖,用来下载新模块:

buf mod update
buf generate

2.5 参数校验的代码

在2.3引入validate的数据结构定义,会生成一个*.pb.validate.go文件,我们截取两个关键函数:

func (m *ListOrdersRequest) Validate() error {
   
    return m.validate(false)
}

func (m *ListOrdersRequest) ValidateAll() error {
   
    return m.validate(true)
}

从命名不难看出,Validate是检查到有一个不符合规则就立刻返回,ValidateAll是校验完所有的参数后、将不符合的规则一起返回。这两种处理方式的差异主要在于:

  1. 耗时:全量检查相对会花费更多的时间
  2. 返回的信息量:全量检查的error会包含更多信息

从服务端的视角,更推荐全量检查,将所有字段的检查结果返回给调用方,方便对方一次性修正。

3.在框架中引入参数检查

3.1 grpc拦截器

grpc提供了一套拦截器Interceptor的机制,类似于http router中的middleware。之前,我们已经引入了一个拦截器,用于打印trace相关的日志。那么这次又新增了一个拦截器,该如何处理呢?

参考grpc的代码,我们可以看到下面两个函数:

func UnaryInterceptor(i UnaryServerInterceptor) ServerOption {
   
}

func ChainUnaryInterceptor(interceptors ...UnaryServerInterceptor) ServerOption {
   
}

其中前者是单个拦截器,而后者是一种链式拦截器的概念。毫无疑问,我们需要扩充成多个拦截器。

3.2 实现参数校验的拦截

// ValidateAll 对应 protoc-gen-validate 生成的 *.pb.validate.go 中的代码
type Validator interface {
   
    ValidateAll() error
}

func ServerValidationUnaryInterceptor(ctx context.Context, req interface{
   }, info *grpc.UnaryServerInfo, handler grpc.UnaryHandler) (resp interface{
   }, err error) {
   
    if r, ok := req.(Validator); ok {
   
        if err := r.ValidateAll(); err != nil {
   
            return nil, status.Error(codes.InvalidArgument, err.Error())
        }
    }

    return handler(ctx, req)
}

然后在拦截器中引入我们定义的插件:

s := grpc.NewServer(
  grpc.ChainUnaryInterceptor(
    grpc_opentracing.UnaryServerInterceptor(
      grpc_opentracing.WithTracer(opentracing.GlobalTracer()),
    ),
    ServerValidationUnaryInterceptor,
  ),
)

3.3 具体调用示例

我们尝试着传一个错误的接口参数,看看返回结果:

{
   
    "code": 3,
    "message": "invalid ListOrdersRequest.PageNumber: value must be greater than 0; invalid ListOrdersRequest.PageSize: value must be greater than 0",
    "details": []
}

可以看到,结果中清晰地说明了不合规的两个参数,以及具体的规则,对调用方来说非常直观。

4.buf格式检查

随着buf工具的推进,我们引入了越来越多的内容,protobuf文件也新增了很多东西。这时,我们会希望能将protobuf的格式也能有一定的规范化。在buf之前,已经有prototool等工具,buf对此做了集成。

由于buf的lint检查有很多细节,建议酌情选用。以项目中我选择的为例:

lint:
  use:
    - DEFAULT
  except:
    - PACKAGE_VERSION_SUFFIX
    - PACKAGE_DIRECTORY_MATCH
  rpc_allow_google_protobuf_empty_requests: true
  rpc_allow_google_protobuf_empty_responses: true

包括两块:

  • except排除了两个检查项,即要求protobuf的package带上版本后缀、与代码路径匹配
  • 允许request和response设置为empty格式

接下来,运行buf lint,会提示你需要修正的地方,逐一修改即可(很多是命名上的规范,增加可读性,推荐按插件的建议进行修改)。

总结

本次框架的小迭代高度依赖了buf的生态体系,建议有时间的朋友可以再看看buf的文档链接 - https://docs.buf.build/introduction。buf工具的迭代频率比较高,对其新特性仍处于观望状态,目前没有完全按照其Best Practice推进。

回过头来,我们的参数检查方案依然存在一个明显问题:生成的swagger文档中没有对应的参数要求(Issue - https://github.com/grpc-ecosystem/grpc-gateway/issues/1093)。如果这个问题长期无法解决,我也会给出一套自己的解决方案。

目录
相关文章
|
1月前
|
JavaScript Java Go
探索Go语言在微服务架构中的优势
在微服务架构的浪潮中,Go语言以其简洁、高效和并发处理能力脱颖而出。本文将深入探讨Go语言在构建微服务时的性能优势,包括其在内存管理、网络编程、并发模型以及工具链支持方面的特点。通过对比其他流行语言,我们将揭示Go语言如何成为微服务架构中的一股清流。
128 53
|
18天前
|
Go 开发工具
百炼-千问模型通过openai接口构建assistant 等 go语言
由于阿里百炼平台通义千问大模型没有完善的go语言兼容openapi示例,并且官方答复assistant是不兼容openapi sdk的。 实际使用中发现是能够支持的,所以自己写了一个demo test示例,给大家做一个参考。
|
19天前
|
算法 NoSQL Java
微服务架构下的接口限流策略与实践#### 一、
本文旨在探讨微服务架构下,面对高并发请求时如何有效实施接口限流策略,以保障系统稳定性和服务质量。不同于传统的摘要概述,本文将从实际应用场景出发,深入剖析几种主流的限流算法(如令牌桶、漏桶及固定窗口计数器等),通过对比分析它们的优缺点,并结合具体案例,展示如何在Spring Cloud Gateway中集成自定义限流方案,实现动态限流规则调整,为读者提供一套可落地的实践指南。 #### 二、
42 3
|
1月前
|
存储 Rust Go
Go nil 空结构体 空接口有什么区别?
本文介绍了Go语言中的`nil`、空结构体和空接口的区别。`nil`是预定义的零值变量,适用于指针、管道等类型;空结构体大小为0,多个空结构体实例指向同一地址;空接口由`_type`和`data`字段组成,仅当两者均为`nil`时,空接口才为`nil`。
Go nil 空结构体 空接口有什么区别?
|
1月前
|
监控 Go API
Go语言在微服务架构中的应用实践
在微服务架构的浪潮中,Go语言以其简洁、高效和并发处理能力脱颖而出,成为构建微服务的理想选择。本文将探讨Go语言在微服务架构中的应用实践,包括Go语言的特性如何适应微服务架构的需求,以及在实际开发中如何利用Go语言的特性来提高服务的性能和可维护性。我们将通过一个具体的案例分析,展示Go语言在微服务开发中的优势,并讨论在实际应用中可能遇到的挑战和解决方案。
|
1月前
|
Go 数据处理 API
Go语言在微服务架构中的应用与优势
本文摘要采用问答形式,以期提供更直接的信息获取方式。 Q1: 为什么选择Go语言进行微服务开发? A1: Go语言的并发模型、简洁的语法和高效的编译速度使其成为微服务架构的理想选择。 Q2: Go语言在微服务架构中有哪些优势? A2: 主要优势包括高性能、高并发处理能力、简洁的代码和强大的标准库。 Q3: 文章将如何展示Go语言在微服务中的应用? A3: 通过对比其他语言和展示Go语言在实际项目中的应用案例,来说明其在微服务架构中的优势。
|
1月前
|
缓存 负载均衡 监控
微服务架构下的接口性能优化策略####
在当今快速迭代的软件开发领域,微服务架构以其灵活性和可扩展性成为众多企业的首选。然而,随着系统复杂性的增加,接口性能问题日益凸显,成为制约用户体验与系统稳定性的关键因素。本文旨在探讨微服务架构下接口性能优化的有效策略,通过具体案例分析,揭示从代码层面到系统架构层面的全方位优化路径,为开发者提供实战指南。 ####
|
29天前
|
分布式计算 Java 持续交付
如何选择合适的微服务框架
如何选择合适的微服务框架
30 0
|
2月前
|
Cloud Native Go API
Go语言在微服务架构中的创新应用与实践
本文深入探讨了Go语言在构建高效、可扩展的微服务架构中的应用。Go语言以其轻量级协程(goroutine)和强大的并发处理能力,成为微服务开发的首选语言之一。通过实际案例分析,本文展示了如何利用Go语言的特性优化微服务的设计与实现,提高系统的响应速度和稳定性。文章还讨论了Go语言在微服务生态中的角色,以及面临的挑战和未来发展趋势。
|
2月前
|
运维 Go 开发者
Go语言在微服务架构中的应用与优势
本文深入探讨了Go语言在构建微服务架构中的独特优势和实际应用。通过分析Go语言的核心特性,如简洁的语法、高效的并发处理能力以及强大的标准库支持,我们揭示了为何Go成为开发高性能微服务的首选语言。文章还详细介绍了Go语言在微服务架构中的几个关键应用场景,包括服务间通信、容器化部署和自动化运维等,旨在为读者提供实用的技术指导和启发。