Golang微服务框架居然可以开发单体应用?—— Kratos单体架构实践
TL;DR
微服务框架也是可以用于开发单体架构(monolith architecture)的应用。并且,单体应用也是最小的、最原始的、最初的项目状态,经过渐进式的开发演进,单体应用能够逐步的演变成微服务架构,并且不断的细分服务粒度。微服务框架开发的单体架构应用,既然是一个最小化的实施,那么它只需要使用到微服务框架最小的技术,也就意味着它只需要用到微服务框架最少的知识点,拿它来学习微服务框架是极佳的。
本文将围绕着一个我写的demo项目:kratos-monolithic-demo开展,它既是一个微服务框架Kratos的最小化实践,也是一个工程化实践的完全体。从中你可以学习到:
- 构建工具Make的使用;
- 依赖注入框架Wire的使用;
- Protobuf构建工具Buf的使用;
- ORM框架Ent的使用;
- OpenAPI在项目开发中的应用;
- 完整的CURD开发示例;
- 用户登陆认证。
为什么要学要用微服务框架?
我向身边的人推广微服务架构,但是经常会得到否定的态度,譬如:
- 我没有那么多在线人数,那么大的项目规模,我不需要微服务;
- 我用GIN就可以一把撸出来了,用什么微服务框架?
- 微服务框架太复杂了,学不来。
……
总结下来,无非就是:
- 微服务知识面太广,上手太难,学习曲线太陡峭。
- 中小型项目,用不到微服务框架。
的确,微服务所需要的知识是挺多的:服务治理(服务注册和发现)、负载均衡、服务熔断、服务降级、服务限流、服务容错、服务网关、分布式配置、链路追踪、服务性能监控、RPC服务调用……
这么多知识点,上手的确是不容易,对于很多中小型企业来说,他们的项目规模小,大多的项目都是CURD项目,这种项目,开发者只需要知道怎么写HTTP路由,怎么写ORM,就行了,就可以上手做事情了。甚至于大部分代码都可以通过代码生成器来生成。要找到会这么多的人才,一个人员难以招聘,一个公司的资本也有限,需要控制成本,请不起。
那么,现在的情况看起来就很明显了:中小型企业,中小型项目,看起来确实是不需要微服务。
但,微服务框架也是用不到,不需要吗?
答案是否定的。
在实际的项目开发中,我有使用微服务框架Kratos开发过好几个单体架构的应用,并且上线运营。在最小的一个项目里面,我也就是用到了:REST服务,ORM访问数据库。涉及的知识点并不多,因此开发起来,也并没有复杂到哪里去。
那么,有人肯定会问我:那你用微服务框架的意义在哪里?
我的考量如下:
- 小项目不是我们的全部,我们也有中大型的项目,公司能够统一用一套技术栈,总是要好过于用多个技术栈。
- Kratos工程化做得比较好,比较好规范公司的开发。
- Kratos基于Protobuf定义协议,gRPC进行服务间通讯,在公司的强异构开发场景下,具有很强的实用价值。
- Kratos基于插件机制开发,极其容易对其进行扩展(看我的kratos-transport,我甚至插入了Gin、FastHttp、Hertz等Web框架)。
综上,是我的理由。在做技术选型的时候,我是横向对比了市面上几乎所有的框架,最终选择了Kratos。
还有一点就是,微服务的开发过程,并不是一步到位的——微服务的开发是渐进的,正所谓:一生二,二生三,三生万物——从单体应用开始逐步的拆分服务也并不是一件很稀奇的事情。
Demo代码仓库
代码在前,适合那些不喜欢看啰嗦的同学。
对于那些想学习使用微服务框架的同学,这一个微服务框架开发的单体项目,它本质上是一个最小化的项目,故而,它也是极为适合拿来学习之用的项目。
对我而言,它是一个工程化实验的实验田,我主要拿它实验软件工程的几个基本形式:
- 标准化
- 模块化
- 过程化
- 实用化和工具化。
项目结构
本项目包含了前端和后端的代码,前端是一个Vue3+TypeScript的Admin。但,前端不是本文的着重点,本文着重讲解后端。
前端项目在frontend
文件夹中,后端项目在backend
文件夹中,
后端项目结构:
├─api # proto协议存放的路径
│ ├─admin # Admin服务,定义了REST的接口。
│ │ └─service
│ │ └─v1
│ ├─file # 文件服务,定义了文件上下传等。
│ │ └─service
│ │ └─v1
│ ├─system # 系统服务,定义了比如目录、路由等。。。
│ │ └─service
│ │ └─v1
│ └─user # 用户服务,定义了用户、组织架构、职位等。
│ └─service
│ └─v1
├─app # 应用程序所在的路径
│ └─admin
│ └─service
│ ├─cmd
│ │ └─server # 应用程序的入口
│ │ └─assets
│ ├─configs # 应用的配置文件
│ └─internal
│ ├─data # 应用的数据层,数据库操作的逻辑代码
│ │ └─ent # 使用的Facebook的ORM,entgo。
│ │ └─schema # 数据库表结构定义
│ ├─server # 应用的传输层,应用提供的输入输出点(创建REST、gRPC、Kafka等……)
│ └─service # 应用的服务层,REST、gRPC等的处理器代码。
├─gen # proto协议生成的go代码存放路径
│ └─api
│ └─go
│ ├─admin
│ │ └─service
│ │ └─v1
│ ├─file
│ │ └─service
│ │ └─v1
│ ├─system
│ │ └─service
│ │ └─v1
│ └─user
│ └─service
│ └─v1
├─pkg # 公共代码存放路径
│ ├─errors
│ │ └─auth
│ ├─middleware
│ │ └─auth
│ ├─service
│ └─task
└─sql # 一些SQL查询的存放路径
前置知识
安装环境
安装Make
Linux、Mac下面基本上都是预装,就算不是预装,要安装也很简单,不再赘述。主要是Windows下面比较麻烦,我有一篇文章说这个:怎么样在Windows下使用Make编译Golang程序。
protoc安装
macOS安装
brew install protobuf
Ubuntu安装
sudo apt update; sudo apt upgrade
sudo apt install libprotobuf-dev protobuf-compiler
Windows安装
在Windows下可以使用包管理器Choco和Scoop来安装。
Choco
choco install protoc
Scoop
scoop bucket add extras
scoop install protobuf
golang install安装的工具
go install google.golang.org/protobuf/cmd/protoc-gen-go@latest
go install google.golang.org/grpc/cmd/protoc-gen-go-grpc@latest
go install github.com/go-kratos/kratos/cmd/protoc-gen-go-http/v2@latest
go install github.com/go-kratos/kratos/cmd/protoc-gen-go-errors/v2@latest
go install github.com/grpc-ecosystem/grpc-gateway/v2/protoc-gen-openapiv2@latest
go install github.com/google/gnostic/cmd/protoc-gen-openapi@latest
go install github.com/envoyproxy/protoc-gen-validate@latest
go install github.com/bufbuild/buf/cmd/buf@latest
go install github.com/go-kratos/kratos/cmd/kratos/v2@latest
或者在后端项目根目录backend
下执行:
make init
安装IDE插件
在IDE里面(VSC和Goland),远程的proto源码库会被拉取到本地的缓存文件夹里面,而这IDE并不知道,故而无法解析到依赖到的proto文件,但是,Buf官方提供了插件,可以帮助IDE读取并解析proto文件,并且自带Lint。
- VSC的Buf插件: https://marketplace.visualstudio.com/items?itemName=bufbuild.vscode-buf
- Goland的Buf插件:https://plugins.jetbrains.com/plugin/19147-buf-for-protocol-buffers
Wire的使用
Wire是谷歌开源的一个依赖注入的框架。
依赖注入的作用是:
- 创建对象
- 知道哪些类需要那些对象
- 并提供所有这些对象
首先从注入源看起,在server
、service
、data
这几个包下面都存在一个:
var ProviderSet = wire.NewSet(...)
NewSet
方法里面都是对象的创建方法。
wire的代码文件有两个:wire.go
和wire_gen.go
,存放在main.go同级文件夹下。
wire.go
//go:build wireinject
// +build wireinject
// The build tag makes sure the stub is not built in the final build.
package main
import (
"github.com/google/wire"
"github.com/go-kratos/kratos/v2"
"github.com/go-kratos/kratos/v2/log"
"github.com/go-kratos/kratos/v2/registry"
conf "github.com/tx7do/kratos-bootstrap/gen/api/go/conf/v1"
"kratos-monolithic-demo/app/admin/service/internal/data"
"kratos-monolithic-demo/app/admin/service/internal/server"
"kratos-monolithic-demo/app/admin/service/internal/service"
)
// initApp init kratos application.
func initApp(log.Logger, registry.Registrar, *conf.Bootstrap) (*kratos.App, func(), error) {
panic(wire.Build(server.ProviderSet, service.ProviderSet, data.ProviderSet, newApp))
}
这个文件不参与编译,是提供给代码生成器用的模板,它把ProviderSet
中的依赖项引入进来,由代码生成器进行组装。
wire_gen.go
// Code generated by Wire. DO NOT EDIT.
//go:generate go run github.com/google/wire/cmd/wire
//go:build !wireinject
// +build !wireinject
package main
import (
"github.com/go-kratos/kratos/v2"
"github.com/go-kratos/kratos/v2/log"
"github.com/go-kratos/kratos/v2/registry"
"github.com/tx7do/kratos-bootstrap/gen/api/go/conf/v1"
"kratos-monolithic-demo/app/admin/service/internal/data"
"kratos-monolithic-demo/app/admin/service/internal/server"
"kratos-monolithic-demo/app/admin/service/internal/service"
)
// Injectors from wire.go:
// initApp init kratos application.
func initApp(logger log.Logger, registrar registry.Registrar, bootstrap *v1.Bootstrap) (*kratos.App, func(), error) {
authenticator := data.NewAuthenticator(bootstrap)
engine := data.NewAuthorizer()
entClient := data.NewEntClient(bootstrap, logger)
client := data.NewRedisClient(bootstrap, logger)
dataData, cleanup, err := data.NewData(entClient, client, authenticator, engine, logger)
if err != nil {
return nil, nil, err
}
userRepo := data.NewUserRepo(dataData, logger)
userTokenRepo := data.NewUserTokenRepo(dataData, authenticator, logger)
authenticationService := service.NewAuthenticationService(logger, userRepo, userTokenRepo)
userService := service.NewUserService(logger, userRepo)
dictRepo := data.NewDictRepo(dataData, logger)
dictService := service.NewDictService(logger, dictRepo)
dictDetailRepo := data.NewDictDetailRepo(dataData, logger)
dictDetailService := service.NewDictDetailService(logger, dictDetailRepo)
menuRepo := data.NewMenuRepo(dataData, logger)
menuService := service.NewMenuService(menuRepo, logger)
routerService := service.NewRouterService(logger, menuRepo)
organizationRepo := data.NewOrganizationRepo(dataData, logger)
organizationService := service.NewOrganizationService(organizationRepo, logger)
roleRepo := data.NewRoleRepo(dataData, logger)
roleService := service.NewRoleService(roleRepo, logger)
positionRepo := data.NewPositionRepo(dataData, logger)
positionService := service.NewPositionService(positionRepo, logger)
httpServer := server.NewRESTServer(bootstrap, logger, authenticator, engine, authenticationService, userService, dictService, dictDetailService, menuService, routerService, organizationService, roleService, positionService)
app := newApp(logger, registrar, httpServer)
return app, func() {
cleanup()
}, nil
}
这个文件是由Wire的代码生成器生成而成。从代码可见,复杂的依赖调用关系被Wire轻松的理顺了。
代码生成
wire的代码生成有两种途径,一个是安装wire可执行程序,一个是使用go run
动态编译执行。推荐动态编译执行,为什么呢?这样可以保证代码生成器的版本和项目中wire的版本是一致的,如果版本不一致,可能会带来一些问题。
go run -mod=mod github.com/google/wire/cmd/wire ./cmd/server
我已经把这条命令写入了app.mk
,可以在app/admin/service
路径下执行:
make wire
Buf的使用
buf.build是专门用于构建protobuf API的工具。
Buf本质上是一个调用protoc的工具,它可以把调用protoc的各种参数配置化,并且支持远程proto,远程插件。所以,Buf能够把proto的编译工程化。
它总共有3组配置文件:buf.work.yaml
、buf.gen.yaml
、buf.yaml
。
另外,还有一个buf.lock
文件,但是它不需要进行人工配置,它是由buf mod update
命令所生成。这跟前端的npm、yarn等的lock文件差不多,golang的go.sum
也差不多。
它的配置文件不多,也不复杂,维护起来非常方便,支持远程proto插件,支持远程第三方proto。对构建系统Bazel支持很好,对CI/CD系统也支持得很好。它还有很多优秀的特性。
buf.work.yaml
它一般放在项目的根目录下面,它代表的是一个工作区,通常一个项目也就一个该配置文件。
该配置文件最重要的就是directories
配置项,列出了要包含在工作区中的模块的目录。目录路径必须相对于buf.work.yaml
,像../external
就是一个无效的配置。
version: v1
directories:
- api
buf.gen.yaml
它一般放在buf.work.yaml
的同级目录下面,它主要是定义一些protoc生成的规则和插件配置。
# 配置protoc生成规则
version: v1
managed:
enabled: true
optimize_for: SPEED
go_package_prefix:
default: kratos-monolithic-demo/gen/api/go
except:
- 'buf.build/googleapis/googleapis'
- 'buf.build/envoyproxy/protoc-gen-validate'
- 'buf.build/kratos/apis'
- 'buf.build/gnostic/gnostic'
- 'buf.build/gogo/protobuf'
- 'buf.build/tx7do/pagination'
plugins:
# 使用go插件生成go代码
#- plugin: buf.build/protocolbuffers/go
- name: go
out: gen/api/go
opt: paths=source_relative # 使用相对路径
# 使用go-grpc插件生成gRPC服务代码
#- plugin: buf.build/grpc/go
- name: go-grpc
out: gen/api/go
opt:
- paths=source_relative # 使用相对路径
# generate rest service code
- name: go-http
out: gen/api/go
opt:
- paths=source_relative # 使用相对路径
# generate kratos errors code
- name: go-errors
out: gen/api/go
opt:
- paths=source_relative # 使用相对路径
# generate message validator code
#- plugin: buf.build/bufbuild/validate-go
- name: validate
out: gen/api/go
opt:
- paths=source_relative # 使用相对路径
- lang=go
buf.yaml
它放置的路径,你可以视之为protoc
的--proto-path
参数指向的路径,也就是proto文件里面import
的相对路径。
需要注意的是,buf.work.yaml
的同级目录必须要放一个该配置文件。
该配置文件的内容通常来说都是下面这个配置,不需要做任何修改,需要修改的情况不多。
version: v1
deps:
- 'buf.build/googleapis/googleapis'
- 'buf.build/envoyproxy/protoc-gen-validate'
- 'buf.build/kratos/apis'
- 'buf.build/gnostic/gnostic'
- 'buf.build/gogo/protobuf'
- 'buf.build/tx7do/pagination'
breaking:
use:
- FILE
lint:
use:
- DEFAULT
API代码生成
我们可以使用以下命令来进行代码生成:
buf generate
或者
make api
Ent的使用
Ent是一个优秀的ORM框架。基于模板进行代码生成,相比较利用反射等方式,在性能上的损耗更少。并且,模板的使用使得扩展系统变得简单容易。
它不仅能够很对传统的关系数据库(MySQL、PostgreSQL、SQLite)方便的进行查询,并且可以容易的进行图遍历——常用的譬如像是:菜单树、组织树……这种数据查询。
Schema
Schema相当于数据库的表。
《道德经》说:
道生一,一生二,二生三,三生万物。
Schema,就是数据库开发的起始点。
只有定义了Schema,代码生成器才能够生成数据库表的go数据结构和相关操作的go代码,有了这些生成后的代码,我们才能够通过ORM来操作数据库表。
ent还支持从Schema生成gRPC和GraphQL的接口定义,可以说ent已经打通了开发全流程——向后搞定了数据库,向前搞定了API。
创建一个Schema
创建Schema有两个方法可以做到:
使用 ent init
创建
ent init User
将会在 {当前目录}/ent/schema/
下生成一个user.go
文件,如果没有文件夹,则会创建一个:
package schema
import "entgo.io/ent"
// User holds the schema definition for the User entity.
type User struct {
ent.Schema
}
// Fields of the User.
func (User) Fields() []ent.Field {
return nil
}
// Edges of the User.
func (User) Edges() []ent.Edge {
return nil
}
SQL转换Schema在线工具
网上有人好心的制作了一个在线工具,可以将SQL转换成schema代码,实际应用中,这是非常方便的!
SQL转Schema工具: https://printlove.cn/tools/sql2ent
比如,我们有一个创建表的SQL语句:
CREATE TABLE `user` (
`id` int(10) UNSIGNED NOT NULL AUTO_INCREMENT,
`email` varchar(50) CHARACTER SET utf8 COLLATE utf8_unicode_ci NOT NULL,
`type` varchar(20) CHARACTER SET utf8 COLLATE utf8_unicode_ci NOT NULL,
`created_at` timestamp NULL DEFAULT NULL,
`updated_at` timestamp NULL DEFAULT NULL,
PRIMARY KEY (`id`) USING BTREE
) ENGINE = InnoDB AUTO_INCREMENT = 1 CHARACTER SET = utf8 COLLATE = utf8_unicode_ci ROW_FORMAT = DYNAMIC;
转换之后,生成如下的Schema代码:
package schema
import (
"entgo.io/ent"
"entgo.io/ent/dialect"
"entgo.io/ent/schema/field"
)
// User holds the schema definition for the User entity.
type User struct {
ent.Schema
}
// Fields of the User.
func (User) Fields() []ent.Field {
return []ent.Field{
field.Int32("id").SchemaType(map[string]string{
dialect.MySQL: "int(10)UNSIGNED", // Override MySQL.
}).NonNegative().Unique(),
field.String("email").SchemaType(map[string]string{
dialect.MySQL: "varchar(50)", // Override MySQL.
}),
field.String("type").SchemaType(map[string]string{
dialect.MySQL: "varchar(20)", // Override MySQL.
}),
field.Time("created_at").SchemaType(map[string]string{
dialect.MySQL: "timestamp", // Override MySQL.
}).Optional(),
field.Time("updated_at").SchemaType(map[string]string{
dialect.MySQL: "timestamp", // Override MySQL.
}).Optional(),
}
}
// Edges of the User.
func (User) Edges() []ent.Edge {
return nil
}
Mixin复用字段
在实际应用中,我们经常会碰到一些一模一样的通用字段,比如:id
、created_at
、updated_at
等等。
那么,我们就只能一直的复制粘贴?这会使得代码既臃肿,又显得很不优雅。
entgo能够让我们复用这些字段吗?
答案显然是,没问题。
Mixin,就是办这个事儿的。
好,我们现在需要复用时间相关的字段:created_at
和updated_at
,那么我们可以:
package mixin
import (
"time"
"entgo.io/ent"
"entgo.io/ent/schema/field"
"entgo.io/ent/schema/mixin"
)
type TimeMixin struct {
mixin.Schema
}
func (TimeMixin) Fields() []ent.Field {
return []ent.Field{
field.Time("created_at").
Immutable().
Default(time.Now),
field.Time("updated_at").
Default(time.Now).
UpdateDefault(time.Now),
}
}
然后,我们就可以在Schema当中应用了,比如User
,我们为它添加一个Mixin
方法:
func (User) Mixin() []ent.Mixin {
return []ent.Mixin{
mixin.TimeMixin{
},
}
}
生成代码再看,user表就拥有这2个字段了。
生成Ent代码
在internal/data/ent
目录下执行:
go run -mod=mod entgo.io/ent/cmd/ent generate \
--feature privacy \
--feature sql/modifier \
--feature entql \
--feature sql/upsert \
./internal/data/ent/schema
或者:
ent generate \
--feature privacy \
--feature sql/modifier \
--feature entql \
--feature sql/upsert \
./internal/data/ent/schema
或者直接在app/admin/service
路径下用Make命令:
make ent
连接数据库
SQLite3
import (
_ "github.com/mattn/go-sqlite3"
)
client, err := ent.Open("sqlite3", "file:ent?mode=memory&cache=shared&_fk=1")
if err != nil {
log.Fatalf("failed opening connection to sqlite: %v", err)
}
defer client.Close()
MySQL/MariaDB
- TiDB 高度兼容MySQL 5.7 协议
- ClickHouse 支持MySQL wire通讯协议
import (
_ "github.com/go-sql-driver/mysql"
)
client, err := ent.Open("mysql", "<user>:<pass>@tcp(<host>:<port>)/<database>?parseTime=True")
if err != nil {
log.Fatalf("failed opening connection to mysql: %v", err)
}
defer client.Close()
PostgreSQL
- CockroachDB 兼容PostgreSQL协议
import (
_ "github.com/lib/pq"
)
client, err := ent.Open("postgresql", "host=<host> port=<port> user=<user> dbname=<database> password=<pass>")
if err != nil {
log.Fatalf("failed opening connection to postgres: %v", err)
}
defer client.Close()
Gremlin
import (
"<project>/ent"
)
client, err := ent.Open("gremlin", "http://localhost:8182")
if err != nil {
log.Fatalf("failed opening connection to gremlin: %v", err)
}
defer client.Close()
自定义驱动sql.DB连接
有以下两种途径可以达成:
package main
import (
"time"
"<your_project>/ent"
"entgo.io/ent/dialect/sql"
)
func Open() (*ent.Client, error) {
drv, err := sql.Open("mysql", "<mysql-dsn>")
if err != nil {
return nil, err
}
// Get the underlying sql.DB object of the driver.
db := drv.DB()
db.SetMaxIdleConns(10)
db.SetMaxOpenConns(100)
db.SetConnMaxLifetime(time.Hour)
return ent.NewClient(ent.Driver(drv)), nil
}
第二种是:
package main
import (
"database/sql"
"time"
"<your_project>/ent"
entsql "entgo.io/ent/dialect/sql"
)
func Open() (*ent.Client, error) {
db, err := sql.Open("mysql", "<mysql-dsn>")
if err != nil {
return nil, err
}
db.SetMaxIdleConns(10)
db.SetMaxOpenConns(100)
db.SetConnMaxLifetime(time.Hour)
// Create an ent.Driver from `db`.
drv := entsql.OpenDB("mysql", db)
return ent.NewClient(ent.Driver(drv)), nil
}
在实际应用中,使用自定义的方法会更好,有两个原因:
- 可以定制数据库连接,比如使用连接池;
- 如果查询语句太过于复杂,可以直接使用驱动写SQL语句进行查询。
OpenAPI的使用
Kratos官方本来是有一个swagger-api的项目的(现在已经被归档了),集成的是OpenAPI v2的Swagger UI。这个项目呢,不好使,我在应用中,经常会读不出来OpenAPI的文档。还有就是OpenAPI v2不如v3功能强大。
因为没有支持,而我又需要跟前端进行沟通,所以我只好生成出OpenAPI文档之后,自行导入到ApiFox里面去使用,ApiFox呢,挺好的,支持文件和在线两种方式导入,文档管理,接口测试的功能也都很强大。但是总是要去费神导出文档,这很让人抗拒——在开发的初期,接口变动是很高频的行为——难道就不能够全自动吗?程序只要一发布,接口就自动的跟随程序一起发布出去了。
对,说的就是集成Swagger UI。
为了做到这件事,并且工程化,需要做这么几件事情:
- 编写
Buf
配置进行OpenAPI文档的生成; - 把Buf生成OpenAPI文档的命令写进
MakeFile
里面; - 利用golang的
Embedding Files
特性,把openapi.yaml
嵌入到BFF服务程序里面; - 集成
Swagger UI
到项目,并且读取内嵌的openapi.yaml
文档。
1. 编写Buf
配置进行OpenAPI文档的生成
细心的你肯定早就发现了在api/admin/service/v1
下面有一个buf.openapi.gen.yaml
的配置文件,这是什么配置文件呢?我现在把该配置文件放出来:
# 配置protoc生成规则
version: v1
managed:
enabled: true
optimize_for: SPEED
go_package_prefix:
default: kratos-monolithic-demo/gen/api/go
except:
- 'buf.build/googleapis/googleapis'
- 'buf.build/envoyproxy/protoc-gen-validate'
- 'buf.build/kratos/apis'
- 'buf.build/gnostic/gnostic'
- 'buf.build/gogo/protobuf'
- 'buf.build/tx7do/pagination'
plugins:
# generate openapi v2 json doc
# - name: openapiv2
# out: ./app/admin/service/cmd/server/assets
# opt:
# - json_names_for_fields=true
# - logtostderr=true
# generate openapi v3 yaml doc
- name: openapi
out: ./app/admin/service/cmd/server/assets
opt:
- naming=json # 命名约定。使用"proto"则直接从proto文件传递名称。默认为:json
- depth=2 # 循环消息的递归深度,默认为:2
- default_response=false # 添加默认响应消息。如果为“true”,则自动为使用google.rpc.Status消息的操作添加默认响应。如果您使用envoy或grpc-gateway进行转码,则非常有用,因为它们使用此类型作为默认错误响应。默认为:true。
- enum_type=string # 枚举类型的序列化的类型。使用"string"则进行基于字符串的序列化。默认为:integer。
- output_mode=merged # 输出文件生成模式。默认情况下,只有一个openapi.yaml文件会生成在输出文件夹。使用“source_relative”则会为每一个'[inputfile].proto'文件单独生成一个“[inputfile].openapi.yaml”文件。默认为:merged。
- fq_schema_naming=false # Schema的命名是否加上包名,为true,则会加上包名,例如:system.service.v1.ListDictDetailResponse,否则为:ListDictDetailResponse。默认为:false。
这个配置文件是为了生成OpenAPI v3文档而编写的。
我之前尝试了把生成OpenAPI的配置放在根目录下的buf.gen.yaml
,但是这产生了一个问题,因为我一个项目里面会有多个BFF服务程序,我不可能一股脑全部输出到一个openapi.yaml里面。虽然,代码生成器也可以为每一个proto各自生成一个[inputfile].openapi.yaml
,但是,这样显得太乱了,而且,我没有办法用。所以,没辙,只能单独对待了——每个BFF服务独立生成一个文档。
那么,怎么使用这个配置文件呢?还是使用buf generate
命令,该命令还是需要在项目根目录下执行,但是得带--template
参数去引入buf.openapi.gen.yaml
这个配置文件:
buf generate --path api/admin/service/v1 --template api/admin/service/v1/buf.openapi.gen.yaml
最终,在./app/admin/service/cmd/server/assets
这个目录下面,将会生成出来一个文件名为openapi.yaml
的文件。
2. 把Buf生成OpenAPI文档的命令写进MakeFile
里面
这么长的命令,显然写入到Makefile会更加好用。
那么,我们开始编写Makefile:
# generate protobuf api go code
api:
buf generate
# generate OpenAPI v3 docs.
openapi:
buf generate --path api/admin/service/v1 --template api/admin/service/v1/buf.openapi.gen.yaml
buf generate --path api/front/service/v1 --template api/front/service/v1/buf.openapi.gen.yaml
# run application
run: api openapi
@go run ./cmd/server -conf ./configs
这样我们只需要在backend
根目录下执行Make命令,就完成OpenAPI的生成了:
make openapi
3. 利用golang的Embedding Files
特性,把openapi.yaml
嵌入到BFF服务程序里面
OpenAPI文档是要使用Swagger UI读取,提供给前端的,那么,openapi.yaml
肯定是要跟着程序走的。我一开始想过放在configs
里面,虽然也是yaml文件,但是,它还是跟配置文件有本质上的差别:它其实是一个文档,而非配置。
以前写VC的时候,一些资源是可以内嵌到EXE的二进制程序里面去的。Go也可以做到,就是使用Embedding Files
的特性。
文档,跟随二进制程序走,在我看来,才是最优解。下面我们就开始实现文档的内嵌。
现在,我们来到./app/admin/service/cmd/server/assets
这个目录下面,我们在这个目录下面创建一个名为assets.go
的代码文件:
package assets
import _ "embed"
//go:embed openapi.yaml
var OpenApiData []byte
利用go:embed
注解引入openapi.yaml
文档,并且读取成一个类型为[]byte
名为OpenApiData
的全局变量。
就这样,我们就把openapi.yaml内嵌进程序了。
4. 集成Swagger UI
到项目,并且读取内嵌的openapi.yaml
文档
最后,我们就可以着手集成Swagger UI
了。
我为了集成Swagger UI
,把Swagger UI
封装了一个软件包,要使用它,我们需要安装依赖库:
go get -u github.com/tx7do/kratos-swagger-ui
在创建REST服务器的地方调用程序包里面的方法:
package server
import (
rest "github.com/go-kratos/kratos/v2/transport/http"
swaggerUI "github.com/tx7do/kratos-swagger-ui"
"kratos-monolithic-demo/app/admin/service/cmd/server/assets"
)
func NewRESTServer() *rest.Server {
srv := CreateRestServer()
swaggerUI.RegisterSwaggerUIServerWithOption(
srv,
swaggerUI.WithTitle("Admin Service"),
swaggerUI.WithMemoryData(assets.OpenApiData, "yaml"),
)
}
到现在,我们就大功告成了!
假如BFF服务的端口是8080,那么我们可以访问下面的链接来访问Swagger UI:
同时,openapi.yaml文件也可以在线访问到:
http://localhost:8080/docs/openapi.yaml
完整的CURD开发示例
Kratos的官方示例的结构是:data
、biz
、service
、server
,我简化掉了,我把biz
给摘除掉了。
我们以用户UserService
为例。
Data
所有对ORM的调用,对数据库的操作都在这一层做。
package data
import (
"context"
"time"
"entgo.io/ent/dialect/sql"
"github.com/go-kratos/kratos/v2/log"
"github.com/tx7do/go-utils/crypto"
entgo "github.com/tx7do/go-utils/entgo/query"
util "github.com/tx7do/go-utils/time"
"github.com/tx7do/go-utils/trans"
"kratos-monolithic-demo/app/admin/service/internal/data/ent"
"kratos-monolithic-demo/app/admin/service/internal/data/ent/user"
pagination "github.com/tx7do/kratos-bootstrap/gen/api/go/pagination/v1"
v1 "kratos-monolithic-demo/gen/api/go/user/service/v1"
)
type UserRepo struct {
data *Data
log *log.Helper
}
func NewUserRepo(data *Data, logger log.Logger) *UserRepo {
l := log.NewHelper(log.With(logger, "module", "user/repo/admin-service"))
return &UserRepo{
data: data,
log: l,
}
}
func (r *UserRepo) convertEntToProto(in *ent.User) *v1.User {
if in == nil {
return nil
}
var authority *v1.UserAuthority
if in.Authority != nil {
authority = (*v1.UserAuthority)(trans.Int32(v1.UserAuthority_value[string(*in.Authority)]))
}
return &v1.User{
Id: in.ID,
RoleId: in.RoleID,
WorkId: in.WorkID,
OrgId: in.OrgID,
PositionId: in.PositionID,
CreatorId: in.CreateBy,
UserName: in.Username,
NickName: in.NickName,
RealName: in.RealName,
Email: in.Email,
Avatar: in.Avatar,
Phone: in.Phone,
Gender: (*string)(in.Gender),
Address: in.Address,
Description: in.Description,
Authority: authority,
LastLoginTime: in.LastLoginTime,
LastLoginIp: in.LastLoginIP,
Status: (*string)(in.Status),
CreateTime: util.TimeToTimeString(in.CreateTime),
UpdateTime: util.TimeToTimeString(in.UpdateTime),
DeleteTime: util.TimeToTimeString(in.DeleteTime),
}
}
func (r *UserRepo) Count(ctx context.Context, whereCond []func(s *sql.Selector)) (int, error) {
builder := r.data.db.Client().User.Query()
if len(whereCond) != 0 {
builder.Modify(whereCond...)
}
count, err := builder.Count(ctx)
if err != nil {
r.log.Errorf("query count failed: %s", err.Error())
}
return count, err
}
func (r *UserRepo) List(ctx context.Context, req *pagination.PagingRequest) (*v1.ListUserResponse, error) {
builder := r.data.db.Client().User.Query()
err, whereSelectors, querySelectors := entgo.BuildQuerySelector(r.data.db.Driver().Dialect(),
req.GetQuery(), req.GetOrQuery(),
req.GetPage(), req.GetPageSize(), req.GetNoPaging(),
req.GetOrderBy(), user.FieldCreateTime)
if err != nil {
r.log.Errorf("解析条件发生错误[%s]", err.Error())
return nil, err
}
if querySelectors != nil {
builder.Modify(querySelectors...)
}
if req.GetFieldMask() != nil && len(req.GetFieldMask().GetPaths()) > 0 {
builder.Select(req.GetFieldMask().GetPaths()...)
}
results, err := builder.All(ctx)
if err != nil {
r.log.Errorf("query list failed: %s", err.Error())
return nil, err
}
items := make([]*v1.User, 0, len(results))
for _, res := range results {
item := r.convertEntToProto(res)
items = append(items, item)
}
count, err := r.Count(ctx, whereSelectors)
if err != nil {
return nil, err
}
return &v1.ListUserResponse{
Total: int32(count),
Items: items,
}, nil
}
func (r *UserRepo) Get(ctx context.Context, req *v1.GetUserRequest) (*v1.User, error) {
ret, err := r.data.db.Client().User.Get(ctx, req.GetId())
if err != nil && !ent.IsNotFound(err) {
r.log.Errorf("query one data failed: %s", err.Error())
return nil, err
}
u := r.convertEntToProto(ret)
return u, err
}
func (r *UserRepo) Create(ctx context.Context, req *v1.CreateUserRequest) (*v1.User, error) {
ph, err := crypto.HashPassword(req.GetPassword())
if err != nil {
return nil, err
}
builder := r.data.db.Client().User.Create().
SetNillableUsername(req.User.UserName).
SetNillableNickName(req.User.NickName).
SetNillableEmail(req.User.Email).
SetNillableRealName(req.User.RealName).
SetNillablePhone(req.User.Phone).
SetNillableOrgID(req.User.OrgId).
SetNillableRoleID(req.User.RoleId).
SetNillableWorkID(req.User.WorkId).
SetNillablePositionID(req.User.PositionId).
SetNillableAvatar(req.User.Avatar).
SetNillableStatus((*user.Status)(req.User.Status)).
SetNillableGender((*user.Gender)(req.User.Gender)).
SetCreateBy(req.GetOperatorId()).
SetPassword(ph).
SetCreateTime(time.Now())
if req.User.Authority != nil {
builder.SetAuthority((user.Authority)(req.User.Authority.String()))
}
ret, err := builder.Save(ctx)
if err != nil {
r.log.Errorf("insert one data failed: %s", err.Error())
return nil, err
}
u := r.convertEntToProto(ret)
return u, err
}
func (r *UserRepo) Update(ctx context.Context, req *v1.UpdateUserRequest) (*v1.User, error) {
cryptoPassword, err := crypto.HashPassword(req.GetPassword())
if err != nil {
return nil, err
}
builder := r.data.db.Client().User.UpdateOneID(req.Id).
SetNillableNickName(req.User.NickName).
SetNillableEmail(req.User.Email).
SetNillableRealName(req.User.RealName).
SetNillablePhone(req.User.Phone).
SetNillableOrgID(req.User.OrgId).
SetNillableRoleID(req.User.RoleId).
SetNillableWorkID(req.User.WorkId).
SetNillablePositionID(req.User.PositionId).
SetNillableAvatar(req.User.Avatar).
SetNillableStatus((*user.Status)(req.User.Status)).
SetNillableGender((*user.Gender)(req.User.Gender)).
SetPassword(cryptoPassword).
SetUpdateTime(time.Now())
if req.User.Authority != nil {
builder.SetAuthority((user.Authority)(req.User.Authority.String()))
}
ret, err := builder.Save(ctx)
if err != nil {
r.log.Errorf("update one data failed: %s", err.Error())
return nil, err
}
u := r.convertEntToProto(ret)
return u, err
}
func (r *UserRepo) Delete(ctx context.Context, req *v1.DeleteUserRequest) (bool, error) {
err := r.data.db.Client().User.
DeleteOneID(req.GetId()).
Exec(ctx)
if err != nil {
r.log.Errorf("delete one data failed: %s", err.Error())
}
return err == nil, err
}
增删改,这些都没有什么特别的。
列表查询,有点特别,需要特别的说明一下,我提取了一个通用的分页请求:
字段名 | 类型 | 格式 | 字段描述 | 示例 | 备注 |
---|---|---|---|---|---|
page | number |
当前页码 | 默认为1 ,最小值为1 。 |
||
pageSize | number |
每页的行数 | 默认为10 ,最小值为1 。 |
||
query | string |
json object 或 json object array |
AND过滤条件 | json字符串: {"field1":"val1","field2":"val2"} 或者[{"field1":"val1"},{"field1":"val2"},{"field2":"val2"}] |
map 和array 都支持,当需要同字段名,不同值的情况下,请使用array 。具体规则请见:过滤规则 |
or | string |
json object 或 json object array |
OR过滤条件 | 同 AND过滤条件 | |
orderBy | string |
json string array |
排序条件 | json字符串:["-create_time", "type"] |
json的string array ,字段名前加- 是为降序,不加为升序。具体规则请见:排序规则 |
nopaging | boolean |
是否不分页 | 此字段为true 时,page 、pageSize 字段的传入将无效用。 |
||
fieldMask | string |
json string array |
字段掩码 | 此字段是SELECT 条件,为空的时候是为* 。 |
Service
这一层主要是处理REST的请求和返回信息。
package service
import (
"context"
"github.com/go-kratos/kratos/v2/log"
"github.com/tx7do/go-utils/trans"
"google.golang.org/protobuf/types/known/emptypb"
"kratos-monolithic-demo/app/admin/service/internal/data"
adminV1 "kratos-monolithic-demo/gen/api/go/admin/service/v1"
userV1 "kratos-monolithic-demo/gen/api/go/user/service/v1"
pagination "github.com/tx7do/kratos-bootstrap/gen/api/go/pagination/v1"
"kratos-monolithic-demo/pkg/middleware/auth"
)
type UserService struct {
adminV1.UserServiceHTTPServer
uc *data.UserRepo
log *log.Helper
}
func NewUserService(logger log.Logger, uc *data.UserRepo) *UserService {
l := log.NewHelper(log.With(logger, "module", "user/service/admin-service"))
return &UserService{
log: l,
uc: uc,
}
}
func (s *UserService) ListUser(ctx context.Context, req *pagination.PagingRequest) (*userV1.ListUserResponse, error) {
return s.uc.List(ctx, req)
}
func (s *UserService) GetUser(ctx context.Context, req *userV1.GetUserRequest) (*userV1.User, error) {
return s.uc.Get(ctx, req)
}
func (s *UserService) CreateUser(ctx context.Context, req *userV1.CreateUserRequest) (*userV1.User, error) {
authInfo, err := auth.FromContext(ctx)
if err != nil {
s.log.Errorf("[%d] 用户认证失败[%s]", authInfo, err.Error())
return nil, adminV1.ErrorAccessForbidden("用户认证失败")
}
if req.User == nil {
return nil, adminV1.ErrorBadRequest("错误的参数")
}
req.OperatorId = authInfo.UserId
req.User.CreatorId = trans.Uint32(authInfo.UserId)
if req.User.Authority == nil {
req.User.Authority = userV1.UserAuthority_CUSTOMER_USER.Enum()
}
ret, err := s.uc.Create(ctx, req)
return ret, err
}
func (s *UserService) UpdateUser(ctx context.Context, req *userV1.UpdateUserRequest) (*userV1.User, error) {
authInfo, err := auth.FromContext(ctx)
if err != nil {
s.log.Errorf("[%d] 用户认证失败[%s]", authInfo, err.Error())
return nil, adminV1.ErrorAccessForbidden("用户认证失败")
}
if req.User == nil {
return nil, adminV1.ErrorBadRequest("错误的参数")
}
req.OperatorId = authInfo.UserId
ret, err := s.uc.Update(ctx, req)
return ret, err
}
func (s *UserService) DeleteUser(ctx context.Context, req *userV1.DeleteUserRequest) (*emptypb.Empty, error) {
authInfo, err := auth.FromContext(ctx)
if err != nil {
s.log.Errorf("[%d] 用户认证失败[%s]", authInfo, err.Error())
return nil, adminV1.ErrorAccessForbidden("用户认证失败")
}
req.OperatorId = authInfo.UserId
_, err = s.uc.Delete(ctx, req)
return &emptypb.Empty{
}, err
}
Server
在这一层创建REST服务器,Service
的服务也在这里注册进去。
package server
import (
"context"
"github.com/go-kratos/kratos/v2/log"
"github.com/go-kratos/kratos/v2/middleware"
"github.com/go-kratos/kratos/v2/middleware/logging"
"github.com/go-kratos/kratos/v2/middleware/selector"
"github.com/go-kratos/kratos/v2/transport/http"
bootstrap "github.com/tx7do/kratos-bootstrap"
conf "github.com/tx7do/kratos-bootstrap/gen/api/go/conf/v1"
"kratos-monolithic-demo/app/admin/service/cmd/server/assets"
"kratos-monolithic-demo/app/admin/service/internal/service"
adminV1 "kratos-monolithic-demo/gen/api/go/admin/service/v1"
"kratos-monolithic-demo/pkg/middleware/auth"
)
// NewRESTServer new an HTTP server.
func NewRESTServer(
cfg *conf.Bootstrap, logger log.Logger,
userSvc *service.UserService,
) *http.Server {
srv := bootstrap.CreateRestServer(cfg)
adminV1.RegisterUserServiceHTTPServer(srv, userSvc)
return srv
}
用户登陆认证
登陆的协议使用OAuth 2.0的密码授权(Password Grant)方式,协议proto定义如下:
syntax = "proto3";
package admin.service.v1;
// 用户后台登陆认证服务
service AuthenticationService {
// 登陆
rpc Login (LoginRequest) returns (LoginResponse) {
option (google.api.http) = {
post: "/admin/v1/login"
body: "*"
};
}
// 登出
rpc Logout (LogoutRequest) returns (google.protobuf.Empty) {
option (google.api.http) = {
post: "/admin/v1/logout"
body: "*"
};
}
// 刷新认证令牌
rpc RefreshToken (RefreshTokenRequest) returns (LoginResponse) {
option (google.api.http) = {
post: "/admin/v1/refresh_token"
body: "*"
};
}
}
// 用户后台登陆 - 请求
message LoginRequest {
string username = 1; // 用户名,必选项。
string password = 2; // 用户的密码,必选项。
string grand_type = 3; // 授权类型,此处的值固定为"password",必选项。
optional string scope = 4; // 以空格分隔的范围列表。如果未提供,scope则授权任何范围,默认为空列表。
}
// 用户后台登陆 - 回应
message LoginResponse {
string access_token = 1; // 访问令牌,必选项。
string refresh_token = 2; // 更新令牌,用来获取下一次的访问令牌,可选项。
string token_type = 3; // 令牌类型,该值大小写不敏感,必选项,可以是bearer类型或mac类型。
int64 expires_in = 4; // 过期时间,单位为秒。如果省略该参数,必须其他方式设置过期时间。
}
// 用户刷新令牌 - 请求
message RefreshTokenRequest {
string refresh_token = 1; // 更新令牌,用来获取下一次的访问令牌,必选项。
string grand_type = 2; // 授权类型,此处的值固定为"password",必选项。
optional string scope = 3; // 以空格分隔的范围列表。如果未提供,scope则授权任何范围,默认为空列表。
}
使用标准化的OAuth 2.0协议,有一个好处就是,别的系统可以无缝对接用户登陆认证。
登陆的令牌,我们使用JWT算法生成。刷新的令牌,使用UUIDv4算法生成,生成的代码如下:
import (
authnEngine "github.com/tx7do/kratos-authn/engine"
)
type UserTokenRepo struct {
data *Data
log *log.Helper
authenticator authnEngine.Authenticator
}
// createAccessJwtToken 生成JWT访问令牌
func (r *UserTokenRepo) createAccessJwtToken(_ string, userId uint32) string {
principal := authn.AuthClaims{
Subject: strconv.FormatUint(uint64(userId), 10),
Scopes: make(authn.ScopeSet),
}
signedToken, err := r.authenticator.CreateIdentity(principal)
if err != nil {
return ""
}
return signedToken
}
// createRefreshToken 生成刷新令牌
func (r *UserTokenRepo) createRefreshToken() string {
strUUID, _ := uuid.NewV4()
return strUUID.String()
}
JWT令牌的生成和验证的具体算法,我都已经封装在了github.com/tx7do/kratos-authn
软件包里面。
JWT令牌的验证,以中间件的方式提供:
import (
"context"
"github.com/go-kratos/kratos/v2/log"
"github.com/go-kratos/kratos/v2/middleware"
"github.com/go-kratos/kratos/v2/middleware/logging"
"github.com/go-kratos/kratos/v2/middleware/selector"
"github.com/go-kratos/kratos/v2/transport/http"
authnEngine "github.com/tx7do/kratos-authn/engine"
authn "github.com/tx7do/kratos-authn/middleware"
)
// NewWhiteListMatcher 创建jwt白名单
func newRestWhiteListMatcher() selector.MatchFunc {
whiteList := make(map[string]bool)
whiteList[adminV1.OperationAuthenticationServiceLogin] = true
return func(ctx context.Context, operation string) bool {
if _, ok := whiteList[operation]; ok {
return false
}
return true
}
}
// NewRESTServer new an HTTP server.
func NewRESTServer(
cfg *conf.Bootstrap, logger log.Logger,
authenticator authnEngine.Authenticator,
) *http.Server {
srv := bootstrap.CreateRestServer(cfg, selector.Server(authn.Server(authenticator)).Match(newRestWhiteListMatcher()).Build())
return srv
}
现在,只要不是在白名单里面的接口,都将接受JWT令牌的验证,无法通过验证的请求,都将无法访问该接口。
结语
当你学习到了这些知识点之后,你会发现上手使用Kratos微服务框架所涉及的知识点也并不繁杂,学习的门槛还是很低的。基于本文中的demo项目,我相信你可以很快的上手写项目了。