Go语言微服务框架 - 11.接口的参数校验功能-buf中引入PGV

简介: 大量开发接口的朋友会经常遇到**接口参数校验**的问题。举个例子,我们希望将某个字段是必填的,如`name`,我们经常会需要做两步:1. 在程序中加一个**判断逻辑**,当这个字段为空时返回错误给调用方2. 在接口文档中加上**注释**,告诉调用方这个参数必填一旦某项工作被拆分为两步,就很容易出现**不一致性**:对应到参数检查,我们会经常遇到文档和具体实现不一致,从而导致双方研发的沟通成本增加。那么,今天我将引入一个方案,实现两者的一致性。

随着API在线文档的发布,服务的接口将会被开放给各种各样的调用方。

大量开发接口的朋友会经常遇到接口参数校验的问题。举个例子,我们希望将某个字段是必填的,如name,我们经常会需要做两步:

  1. 在程序中加一个判断逻辑,当这个字段为空时返回错误给调用方
  2. 在接口文档中加上注释,告诉调用方这个参数必填

一旦某项工作被拆分为两步,就很容易出现不一致性:对应到参数检查,我们会经常遇到文档和具体实现不一致,从而导致双方研发的沟通成本增加。那么,今天我将引入一个方案,实现两者的一致性。

为了缩小讨论范围,我们将 参数校验 限定为简单规则。

而复合条件的检查(逻辑组合等),不在本次的讨论范围内,主要考虑到2点:

  1. 要生成跨语言的方案,技术上比较难实现
  2. 复合条件往往是一种业务逻辑的检查,放在接口层面不合适

v0.7.1:接口的参数校验功能

项目链接 https://github.com/Junedayday/micro_web_service/tree/v0.7.1

目标

在线接口文档提供参数校验的逻辑,并自动生成相关代码。

关键技术点

  1. 参数校验的技术选型
  2. 在buf中引入PGV
  3. 在框架中引入参数检查
  4. buf格式检查

目录构造

--- micro_web_service            项目目录
    |-- gen                            从idl文件夹中生成的文件,不可手动修改
       |-- idl                             对应idl文件夹
          |-- demo                             对应idl/demo服务,包括基础结构、HTTP接口、gRPC接口
            |-- order                            对应idl/order服务,同上
     |-- swagger.json                    openapiv2的接口文档
    |-- idl                            原始的idl定义
       |-- demo                            业务package定义,protobuffer的原始定义
       |-- order                           业务order定义,同时干
    |-- internal                       项目的内部代码,不对外暴露
       |-- config                          配置相关的文件夹,viper的相关加载逻辑
       |-- dao                             Data Access Object层,是model层的实现
       |-- gormer                          从pkg/gormer中生成的相关代码,不允许更改
       |-- model                           model层,定义对象的接口方法,具体实现在dao层
       |-- mysql                           MySQL连接
       |-- server                          服务器的实现,对idl中定义服务的具体实现
       |-- service                         service层,作为领域实现的核心部分
     |-- zlog                            封装zap日志的代码实现
  |-- pkg                            开放给第三方的工具库
     |-- gormer                          gormer二进制工具,用于生成Gorm相关Dao层代码
    |-- buf.gen.yaml                   修改:buf生成代码的定义,新增参数校验逻辑
    |-- buf.yaml                       buf工具安装所需的工具,从v1beta升到v1
    |-- gen.sh                         生成代码的脚本:buf+gormer
    |-- go.mod                         Go Module文件
    |-- gormer.yaml                    将gormer中的参数移动到这里
    |-- main.go                        项目启动的main函数
    |-- swagger.sh                     生成openapiv2的相关脚本

1.参数校验的技术选型

从搜索引擎可知,protobuf的主流参数校验采用两者:

  1. go-proto-validators https://github.com/mwitkow/go-proto-validators
  2. protoc-gen-validate https://github.com/envoyproxy/protoc-gen-validate

这里,我们最终选用的是protoc-gen-validate(PGV),决定性的理由有两个:

  1. buf的官方文档更倾向于PGV - https://docs.buf.build/lint/rules/#custom-options
  2. PGV由envoy背书,长期来看更具维护性

2.在buf中引入PGV

protoc-gen-validate(PGV)作为一款插件,它已经被集成在了buf工具中。这次,我们就从其调用的顺序,来理解一下buf里的重要文件:

2.1 核心文件 - buf.yaml

具体引用路径可以在buf库 - https://buf.build/ 搜索找到,然后在文件中里添加一个依赖项:

deps:
  - buf.build/envoyproxy/protoc-gen-validate

2.2 生成的定义文件 - buf.gen.yaml

这个文件定义了我们要生成什么样的代码,具体增加如下:

plugins:
  - name: validate
    out: gen
    opt:
      - paths=source_relative
      - lang=go

其中,要注意opt选项要增加一个参数lang=go,类似的,我们也可以生成其余语言的代码。

2.3 proto定义文件

我们以分页参数为例,添加2条规则,即要求页码、每页数量均大于0。

import "validate/validate.proto";

message ListOrdersRequest {
  int32 page_number = 1 [(validate.rules).int32 = {gt: 0}];
  int32 page_size = 2   [(validate.rules).int32 = {gt: 0}];
}

2.4 生成相关代码

因为我们引入了一个新的模块,所以先需要更新依赖,用来下载新模块:

buf mod update
buf generate

2.5 参数校验的代码

在2.3引入validate的数据结构定义,会生成一个*.pb.validate.go文件,我们截取两个关键函数:

func (m *ListOrdersRequest) Validate() error {
   
    return m.validate(false)
}

func (m *ListOrdersRequest) ValidateAll() error {
   
    return m.validate(true)
}

从命名不难看出,Validate是检查到有一个不符合规则就立刻返回,ValidateAll是校验完所有的参数后、将不符合的规则一起返回。这两种处理方式的差异主要在于:

  1. 耗时:全量检查相对会花费更多的时间
  2. 返回的信息量:全量检查的error会包含更多信息

从服务端的视角,更推荐全量检查,将所有字段的检查结果返回给调用方,方便对方一次性修正。

3.在框架中引入参数检查

3.1 grpc拦截器

grpc提供了一套拦截器Interceptor的机制,类似于http router中的middleware。之前,我们已经引入了一个拦截器,用于打印trace相关的日志。那么这次又新增了一个拦截器,该如何处理呢?

参考grpc的代码,我们可以看到下面两个函数:

func UnaryInterceptor(i UnaryServerInterceptor) ServerOption {
   
}

func ChainUnaryInterceptor(interceptors ...UnaryServerInterceptor) ServerOption {
   
}

其中前者是单个拦截器,而后者是一种链式拦截器的概念。毫无疑问,我们需要扩充成多个拦截器。

3.2 实现参数校验的拦截

// ValidateAll 对应 protoc-gen-validate 生成的 *.pb.validate.go 中的代码
type Validator interface {
   
    ValidateAll() error
}

func ServerValidationUnaryInterceptor(ctx context.Context, req interface{
   }, info *grpc.UnaryServerInfo, handler grpc.UnaryHandler) (resp interface{
   }, err error) {
   
    if r, ok := req.(Validator); ok {
   
        if err := r.ValidateAll(); err != nil {
   
            return nil, status.Error(codes.InvalidArgument, err.Error())
        }
    }

    return handler(ctx, req)
}

然后在拦截器中引入我们定义的插件:

s := grpc.NewServer(
  grpc.ChainUnaryInterceptor(
    grpc_opentracing.UnaryServerInterceptor(
      grpc_opentracing.WithTracer(opentracing.GlobalTracer()),
    ),
    ServerValidationUnaryInterceptor,
  ),
)

3.3 具体调用示例

我们尝试着传一个错误的接口参数,看看返回结果:

{
   
    "code": 3,
    "message": "invalid ListOrdersRequest.PageNumber: value must be greater than 0; invalid ListOrdersRequest.PageSize: value must be greater than 0",
    "details": []
}

可以看到,结果中清晰地说明了不合规的两个参数,以及具体的规则,对调用方来说非常直观。

4.buf格式检查

随着buf工具的推进,我们引入了越来越多的内容,protobuf文件也新增了很多东西。这时,我们会希望能将protobuf的格式也能有一定的规范化。在buf之前,已经有prototool等工具,buf对此做了集成。

由于buf的lint检查有很多细节,建议酌情选用。以项目中我选择的为例:

lint:
  use:
    - DEFAULT
  except:
    - PACKAGE_VERSION_SUFFIX
    - PACKAGE_DIRECTORY_MATCH
  rpc_allow_google_protobuf_empty_requests: true
  rpc_allow_google_protobuf_empty_responses: true

包括两块:

  • except排除了两个检查项,即要求protobuf的package带上版本后缀、与代码路径匹配
  • 允许request和response设置为empty格式

接下来,运行buf lint,会提示你需要修正的地方,逐一修改即可(很多是命名上的规范,增加可读性,推荐按插件的建议进行修改)。

总结

本次框架的小迭代高度依赖了buf的生态体系,建议有时间的朋友可以再看看buf的文档链接 - https://docs.buf.build/introduction。buf工具的迭代频率比较高,对其新特性仍处于观望状态,目前没有完全按照其Best Practice推进。

回过头来,我们的参数检查方案依然存在一个明显问题:生成的swagger文档中没有对应的参数要求(Issue - https://github.com/grpc-ecosystem/grpc-gateway/issues/1093)。如果这个问题长期无法解决,我也会给出一套自己的解决方案。

目录
相关文章
|
7天前
|
Go
Go 语言循环语句
在不少实际问题中有许多具有规律性的重复操作,因此在程序中就需要重复执行某些语句。
17 1
|
6天前
|
Go
Go to Learn Go之命令行参数
Go to Learn Go之命令行参数
18 8
|
6天前
|
Go 开发者
探索Go语言的并发之美
在Go语言的世界里,"并发"不仅仅是一个特性,它是一种哲学。本文将带你领略Go语言中goroutine和channel的魔力,揭示如何通过Go的并发机制来构建高效、可靠的系统。我们将通过一个简单的示例,展示如何利用Go的并发特性来解决实际问题,让你的程序像Go一样,轻盈而强大。
|
7天前
|
Go
go语言创建字典
go语言创建字典
|
7天前
|
Go
Go 语言接口
Go 语言提供了另外一种数据类型即接口,它把所有的具有共性的方法定义在一起,任何其他类型只要实现了这些方法就是实现了这个接口。 接口可以让我们将不同的类型绑定到一组公共的方法上,从而实现多态和灵活的设计。
|
10天前
|
安全 应用服务中间件 API
微服务分布式系统架构之zookeeper与dubbo-2
微服务分布式系统架构之zookeeper与dubbo-2
|
10天前
|
负载均衡 Java 应用服务中间件
微服务分布式系统架构之zookeeper与dubbor-1
微服务分布式系统架构之zookeeper与dubbor-1
|
2月前
|
Kubernetes Cloud Native Docker
云原生之旅:从容器到微服务的架构演变
【8月更文挑战第29天】在数字化时代的浪潮下,云原生技术以其灵活性、可扩展性和弹性管理成为企业数字化转型的关键。本文将通过浅显易懂的语言和生动的比喻,带领读者了解云原生的基本概念,探索容器化技术的奥秘,并深入微服务架构的世界。我们将一起见证代码如何转化为现实中的服务,实现快速迭代和高效部署。无论你是初学者还是有经验的开发者,这篇文章都会为你打开一扇通往云原生世界的大门。
|
2月前
|
负载均衡 应用服务中间件 持续交付
微服务架构下的Web服务器部署
【8月更文第28天】随着互联网应用的不断发展,传统的单体应用架构逐渐显露出其局限性,特别是在可扩展性和维护性方面。为了解决这些问题,微服务架构应运而生。微服务架构通过将应用程序分解成一系列小型、独立的服务来提高系统的灵活性和可维护性。本文将探讨如何在微服务架构中有效部署和管理Web服务器实例,并提供一些实际的代码示例。
69 0
|
22天前
|
运维 Cloud Native Devops
云原生架构的崛起与实践云原生架构是一种通过容器化、微服务和DevOps等技术手段,帮助应用系统实现敏捷部署、弹性扩展和高效运维的技术理念。本文将探讨云原生的概念、核心技术以及其在企业中的应用实践,揭示云原生如何成为现代软件开发和运营的主流方式。##
云原生架构是现代IT领域的一场革命,它依托于容器化、微服务和DevOps等核心技术,旨在解决传统架构在应对复杂业务需求时的不足。通过采用云原生方法,企业可以实现敏捷部署、弹性扩展和高效运维,从而大幅提升开发效率和系统可靠性。本文详细阐述了云原生的核心概念、主要技术和实际应用案例,并探讨了企业在实施云原生过程中的挑战与解决方案。无论是正在转型的传统企业,还是寻求创新的互联网企业,云原生都提供了一条实现高效能、高灵活性和高可靠性的技术路径。 ##
29 3

热门文章

最新文章

下一篇
无影云桌面