Go GRPC 入门
1,安装包
grpc
golang-grpc 包提供了 gRPC 相关的代码库,通过这个库我们可以创建 gRPC 服务或客户端,首先需要安装他。
go get -u google.golang.org/grpc
协议插件
要玩 gRPC,自然离不开 proto 文件,需要安装两个包,用于支持 protobuf 文件的处理。
go get -u github.com/golang/protobuf go get -u github.com/golang/protobuf/protoc-gen-go
注:GOPATH/bin
下有个 protoc-gen-go.exe
文件,然而这个只是 protoc 的插件,他本身不是 protoc 工具。。。
Protocol Buffers
Protocol Buffers 是一个与编程语言无关、与平台无关的可拓展机制,用于序列化结构数据,是一种数据交换格式,gRPC 使用 protoc 作为协议处理工具。
学习 Go 的 gRPC 时,有个坑,很多文章里面都没有说到要安装这个,执行命令提示不存在 protoc 命令。
首先到 https://github.com/protocolbuffers/protobuf/releases 下载 相应的包,例如笔者下载的是 protoc-3.15.6-win64.zip
。
解压后,复制里面的 bin\protoc.exe
文件,复制到 GOPATH\bin
命令,跟 protoc-gen-go.exe
放一起。
测试
以上都妥当后,我们在一个新的目录,创建一个 test.proto 文件,其内容示例如下如下:
注:protoc-3.15.6-win64\include\google\protobuf
目录也有很多示例。
syntax = "proto3"; // 包名 package test; // 指定输出 go 语言的源码到哪个目录以及文件名称 // 最终在 test.proto 目录生成 test.pb.go // 也可以只填写 "./" option go_package = "./;test"; // 如果要输出其它语言的话 // option csharp_package="MyTest"; service Tester{ rpc MyTest(Request) returns (Response){} } // 函数参数 message Request{ string jsonStr = 1; } // 函数返回值 message Response{ string backJson = 1; }
然后在 proto 所在目录,执行命令将 proto 转换为相应的编程语言文件。
protoc --go_out=plugins=grpc:. *.proto
会发现在当前目录输出了 test.pb.go
文件。
2,gRPC 服务端
创建一个 go 程序,把 test.pb.go 复制放到在 main.go 目录,在 main.go 引入 grpc:
import ( "context" "fmt" "google.golang.org/grpc" // test.pb.go 默认包名是 package 为 main,不需要在这里引入 "google.golang.org/grpc/reflection" "log" "net" )
在 test.pb.go
中,生成了两个个 Tester
的接口,我们来看一下这两个接口的定义:
type TesterServer interface { MyTest(context.Context, *Request) (*Response, error) } type TesterClient interface { MyTest(ctx context.Context, in *Request, opts ...grpc.CallOption) (*Response, error) }
要实现 proto 中的服务,则需要我们实现 TesterServer
接口,要编写 客户端,则需要实现 TesterClient
。
这里我们先实现 Server。
// 用于实现 Tester 服务 type MyGrpcServer struct{} func (myserver *MyGrpcServer) MyTest(context context.Context, request *Request) (*Response, error) { fmt.Println("收到一个 grpc 请求,请求参数:", request) response := Response{BackJson: `{"Code":666}`} return &response, nil }
接着我们创建 gRPC 服务。
func main() { // 创建 Tcp 连接 listener, err := net.Listen("tcp", ":8028") if err != nil { log.Fatalf("监听失败: %v", err) } // 创建gRPC服务 grpcServer := grpc.NewServer() // Tester 注册服务实现者 // 此函数在 test.pb.go 中,自动生成 RegisterTesterServer(grpcServer, &MyGrpcServer{}) // 在 gRPC 服务上注册反射服务 // func Register(s *grpc.Server) reflection.Register(grpcServer) err = grpcServer.Serve(listener) if err != nil { log.Fatalf("failed to serve: %v", err) } }
3,gRPC 客户端
创建一个新的 go 项目,把 test.pb.go 复制放到 main.go 同级目录,main.go 的代码:
package main import ( "bufio" "context" "google.golang.org/grpc" "log" "os" ) func main() { conn, err := grpc.Dial("127.0.0.1:8028", grpc.WithInsecure()) if err != nil { log.Fatal("连接 gPRC 服务失败,", err) } defer conn.Close() // 创建 gRPC 客户端 grpcClient := NewTesterClient(conn) // 创建请求参数 request := Request{ JsonStr: `{"Code":666}`, } reader := bufio.NewReader(os.Stdin) for { // 发送请求,调用 MyTest 接口 response, err := grpcClient.MyTest(context.Background(), &request) if err != nil { log.Fatal("发送请求失败,原因是:", err) } log.Println(response) reader.ReadLine() } }
4,编译运行
由于创建的时候,test.pb.go 使用的包名是 main,所以在编译时,需要把多个 go 文件一起编译:
go build .\main.go .\test.pb.go
然后分别启动 server 和 client,在 client 每按下一次回车键,便发送一次 gRPC 消息。
到这里,我们学习了一个完整的 gRPC 从创建协议到创建服务和客户端的过程,下面将接着学习一些相关的知识,了解一些细节。
5,其它
proto.Marshal
可以对请求的参数进行序列化,如:
// 创建请求参数 request := Request{ JsonStr: `{"Code":666}`, } out,err:= proto.Marshal(&request) if err != nil { log.Fatalln("Failed to encode address book:", err) } if err := ioutil.WriteFile("E:/log.txt", out, 0644); err != nil { log.Fatalln("Failed to write address book:", err) }
而 proto.Unmarshal
则可以反序列化。
我们还可以自定义如何序列化反序列化消息,代码示例:
b, err := MarshalOptions{Deterministic: true}.Marshal(m)
感兴趣的读者可访问 https://pkg.go.dev/google.golang.org/protobuf/proto#MarshalOptions
GRPC
Protobuf buffer
Protobuf buffer 是一种数据格式,而 Protobuf 是 gRPC 协议,这里需要区分一下。
protobuf buffer 是 Google 用于序列化结构话数据的开源机制,要定义一个 protobuf buffer,需要使用 message 定义。
message Person { string name = 1; int32 id = 2; bool has_ponycopter = 3; }
开源看到,每个字段都有一个 数字, = 1
这个不是赋值,而是编号。一个 message 中,每个字段都有唯一的编号,这些数字用于标识二进制格式的字段(数据传输时会被压缩等),当编号范围是 1-15 时,存储编号需要一个字节,也就是说 message 中的字段尽量不超过 15 个,1-15 编号用来定义频繁出现的消息元素。当然,也可以使用16-2047
之间的数字作为编号,此时存储编号需要两个字节。
详细的说可以参考官方文档:
https://developers.google.com/protocol-buffers/docs/overview
字段类型
字段类型就不详细列表了,读者可以参考官方文档,这里列一下常用的数据类型:
double、float、int32、int64、bool、string、bytes、枚举。
由于 gRPC 需要考虑兼容 C 语言、C#、Java、Go 语言等,所以 gRPC 中的类型不等同于编程语言中的相关类型。这些类型都是 gRPC 中定义的,并且如果要转换为编程语言中的类型,需要一些转换机制,而这有时会十分麻烦。
字段规则
每个字段都可以指定一个规则,在定义字段类型的开头使用规则标识。
有以下三种规则:
required
:格式正确的消息必须恰好具有此字段之一,即必填字段。optional
:格式正确的消息可以包含零个或一个此字段(但不能超过一个,即值是可选的。repeated
:在格式正确的消息中,此字段可以重复任意次(包括零次),重复值的顺序将保留,表示该字段可以包含0~N个元素。
由于历史原因,repeated
标量数字类型的字段编码效率不高。新代码应使用特殊选项[packed=true]
来获得更有效的编码。例如:
repeated int32 samples = 4 [packed=true];
在可选字段中 optional 中,我们可以为其设置一个默认值,当传递消息时如果没有填写此字段,则使用其默认值:
optional int32 result_per_page = 3 [default = 10];
Protobuf
接下来将介绍 gRPC 的协议格式(protobuf),下面是官方文档的一个示例:
syntax = "proto3"; package tutorial; import "google/protobuf/timestamp.proto";
syntax 指明协议的版本;
package 指明该 .proto 的名称;
import 关键字可以在当前 .proto 中引入其它 .proto 文件,gRPC 基本数据类型中不包含时间格式,可以引入 timestamp.proto
。
不同编程语言引入包/库的方式是不同的,C++ 和 C# 都是使用命名空间区分代码位置;Java 以目录、公共类严格区别包名;go 则是以一个 .go 文件任意设置 package 名称。
前面提到了 protoc,可以将协议文件转为为具体的代码。
为了兼容各种编程语言,我们协议设置 _package
,这样可以支持生成不同语言代码时设置包/库名称。
例如 :
option go_package = "Test"; // ... option csharp_package = "MyGrpc.Protos"; // 生成命名空间 namespace MyGrpc.Protos{} option java_paclage = "MyJava.Protos"; // ...
gRPC 四种服务方法
protobuf 中除了可以定义 message,也可以定义流式接口。
gRPC使您可以定义四种服务方法:
- 一元 RPC,客户端向服务器发送单个请求并获得单个响应,就像普通的函数调用一样。前面我们提到的都是一元 gRPC。
rpc SayHello(HelloRequest) returns (HelloResponse);
- 服务器流式RPC,客户端在其中向服务器发送请求,并获取流以读取回一系列消息。客户端从返回的流中读取,直到没有更多消息为止。gRPC保证在单个RPC调用中对消息进行排序。
客户端 -> 服务端 -> 返回流 -> 客户端 -> 接收流
rpc LotsOfReplies(HelloRequest) returns (stream HelloResponse);
- 客户端流式RPC,客户端在其中编写消息序列,然后再次使用提供的流将其发送到服务器。客户端写完消息后,它将等待服务器读取消息并返回其响应。gRPC再次保证了在单个RPC调用中的消息顺序。
客户端 -> 发送流 -> 服务端 -> 接收流 ->
rpc LotsOfGreetings(stream HelloRequest) returns (HelloResponse);
- 双向流式RPC,双方都使用读写流发送一系列消息。这两个流独立运行,因此客户端和服务器可以按照自己喜欢的顺序进行读写:例如,服务器可以在写响应之前等待接收所有客户端消息,或者可以先读取消息再写入消息,或读写的其他组合。每个流中的消息顺序都会保留。
rpc BidiHello(stream HelloRequest) returns (stream HelloResponse);
编译 proto
前面我们用 protoc 来编译 .proto 文件为 go 语言,为了支持编译为 go,需要安装 protoc-gen-go
插件,C# 可以安装 protoc-gen-zsharp
插件。
需要注意的是,转换 .proto 为编程语言,不一定要安装 protoc。
例如 C# 只需要把 .proto 文件放到项目中,通过包管理器安装一个库,就会自动转换为相应的代码。
回归正题,聊一下 protoc 编译 .proto 文件的命令。
protoc 常用的参数如下:
--proto_path=. #指定proto文件的路径,填写 . 表示就在当前目录下 --go_out=. #表示编译后的文件存放路径;如果编译的是 csharp,则 --csharp_out --go_opt={xxx.proto}={xxx.proto的路径} # 示例:--go_opt=Mprotos/bar.proto=example.com/project/protos/foo
最简单的编译命令:
protoc --go_out=. *.proto
--{xxx}_out
指令是必须的,因为要输出具体的编程语言代码。
这个输出文件的路径是执行命令的路径,如果我们不在 .proto 文件目录下执行命令,则输出的代码便不是相同位置了。为了解决这个问题,我们可以使用:
--go_opt=paths=source_relative
这样在别的地方执行命令,生成的代码会跟 .proto 文件放在相同的位置。