你还在手撕微服务?快试试 go-zero 的微服务自动生成

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: 你还在手撕微服务?快试试 go-zero 的微服务自动生成

0. 为什么说做好微服务很难?

要想做好微服务,我们需要理解和掌握的知识点非常多,从几个维度上来说:

  • 基本功能层面
  1. 并发控制&限流,避免服务被突发流量击垮
  2. 服务注册与服务发现,确保能够动态侦测增减的节点
  3. 负载均衡,需要根据节点承受能力分发流量
  4. 超时控制,避免对已超时请求做无用功
  5. 熔断设计,快速失败,保障故障节点的恢复能力
  • 高阶功能层面
  1. 请求认证,确保每个用户只能访问自己的数据
  2. 链路追踪,用于理解整个系统和快速定位特定请求的问题
  3. 日志,用于数据收集和问题定位
  4. 可观测性,没有度量就没有优化

对于其中每一点,我们都需要用很长的篇幅来讲述其原理和实现,那么对我们后端开发者来说,要想把这些知识点都掌握并落实到业务系统里,难度是非常大的,不过我们可以依赖已经被大流量验证过的框架体系。go-zero微服务框架就是为此而生。

另外,我们始终秉承工具大于约定和文档的理念。我们希望尽可能减少开发人员的心智负担,把精力都投入到产生业务价值的代码上,减少重复代码的编写,所以我们开发了goctl工具。

下面我通过短链微服务来演示通过go-zero快速的创建微服务的流程,走完一遍,你就会发现:原来编写微服务如此简单!

1. 什么是短链服务?

短链服务就是将长的URL网址,通过程序计算等方式,转换为简短的网址字符串。

写此短链服务是为了从整体上演示go-zero构建完整微服务的过程,算法和实现细节尽可能简化了,所以这不是一个高阶的短链服务。

2. 短链微服务架构图

  • 这里只用了Transform RPC一个微服务,并不是说API Gateway只能调用一个微服务,只是为了最简演示API Gateway如何调用RPC微服务而已
  • 在真正项目里要尽可能每个微服务使用自己的数据库,数据边界要清晰

3. goctl各层代码生成一览

所有绿色背景的功能模块是自动生成的,按需激活,红色模块是需要自己写的,也就是增加下依赖,编写业务特有逻辑,各层示意图分别如下:

  • API Gateway

  • RPC

  • model

下面我们来一起完整走一遍快速构建微服务的流程,Let’s Go!🏃‍♂️

4. 准备工作

  • 安装etcd, mysql, redis
  • 安装goctl工具
GO111MODULE=on GOPROXY=https://goproxy.cn/,direct go get github.com/tal-tech/go-zero/tools/goctl
  • 创建工作目录shorturl
  • shorturl目录下执行go mod init shorturl初始化go.mod

5. 编写API Gateway代码

  • 通过goctl生成api/shorturl.api并编辑,为了简洁,去除了文件开头的info,代码如下:
type (
    expandReq struct {
        shorten string `form:"shorten"`
    }
    expandResp struct {
        url string `json:"url"`
    }
)
type (
    shortenReq struct {
        url string `form:"url"`
    }
    shortenResp struct {
        shorten string `json:"shorten"`
    }
)
service shorturl-api {
    @server(
        handler: ShortenHandler
    )
    get /shorten(shortenReq) returns(shortenResp)
    @server(
        handler: ExpandHandler
    )
    get /expand(expandReq) returns(expandResp)
}
  • type用法和go一致,service用来定义get/post/head/delete等api请求,解释如下:
  • service shorturl-api {这一行定义了service名字
  • @server部分用来定义server端用到的属性
  • handler定义了服务端handler名字
  • get /shorten(shortenReq) returns(shortenResp)定义了get方法的路由、请求参数、返回参数等
  • 使用goctl生成API Gateway代码
goctl api go -api shorturl.api -dir .
  • 生成的文件结构如下:
.
├── api
│   ├── etc
│   │   └── shorturl-api.yaml         // 配置文件
│   ├── internal
│   │   ├── config
│   │   │   └── config.go             // 定义配置
│   │   ├── handler
│   │   │   ├── expandhandler.go      // 实现expandHandler
│   │   │   ├── routes.go             // 定义路由处理
│   │   │   └── shortenhandler.go     // 实现shortenHandler
│   │   ├── logic
│   │   │   ├── expandlogic.go        // 实现ExpandLogic
│   │   │   └── shortenlogic.go       // 实现ShortenLogic
│   │   ├── svc
│   │   │   └── servicecontext.go     // 定义ServiceContext
│   │   └── types
│   │       └── types.go              // 定义请求、返回结构体
│   ├── shorturl.api
│   └── shorturl.go                   // main入口定义
├── go.mod
└── go.sum
  • 启动API Gateway服务,默认侦听在8888端口
go run shorturl.go -f etc/shorturl-api.yaml
  • 测试API Gateway服务
curl -i "http://localhost:8888/shorten?url=http://www.xiaoheiban.cn"
  • 返回如下:
HTTP/1.1 200 OK
Content-Type: application/json
Date: Thu, 27 Aug 2020 14:31:39 GMT
Content-Length: 15
{"shortUrl":""}
  • 可以看到我们API Gateway其实啥也没干,就返回了个空值,接下来我们会在rpc服务里实现业务逻辑
  • 可以修改internal/svc/servicecontext.go来传递服务依赖(如果需要)
  • 实现逻辑可以修改internal/logic下的对应文件
  • 可以通过goctl生成各种客户端语言的api调用代码
  • 到这里,你已经可以通过goctl生成客户端代码给客户端同学并行开发了,支持多种语言,详见文档

6. 编写transform rpc服务

  • rpc/transform目录下编写transform.proto文件
    可以通过命令生成proto文件模板
goctl rpc template -o transform.proto
  • 修改后文件内容如下:
syntax = "proto3";
package transform;
message expandReq {
    string shorten = 1;
}
message expandResp {
    string url = 1;
}
message shortenReq {
    string url = 1;
}
message shortenResp {
    string shorten = 1;
}
service transformer {
    rpc expand(expandReq) returns(expandResp);
    rpc shorten(shortenReq) returns(shortenResp);
}
  • goctl生成rpc代码,在rpc/transform目录下执行命令
goctl rpc proto -src transform.proto
  • 文件结构如下:
rpc/transform
├── etc
│   └── transform.yaml              // 配置文件
├── internal
│   ├── config
│   │   └── config.go               // 配置定义
│   ├── logic
│   │   ├── expandlogic.go          // expand业务逻辑在这里实现
│   │   └── shortenlogic.go         // shorten业务逻辑在这里实现
│   ├── server
│   │   └── transformerserver.go    // 调用入口, 不需要修改
│   └── svc
│       └── servicecontext.go       // 定义ServiceContext,传递依赖
├── pb
│   └── transform.pb.go
├── transform.go                    // rpc服务main函数
├── transform.proto
└── transformer
    ├── transformer.go              // 提供了外部调用方法,无需修改
    ├── transformer_mock.go         // mock方法,测试用
    └── types.go                    // request/response结构体定义
  • 直接可以运行,如下:
$ go run transform.go -f etc/transform.yaml
Starting rpc server at 127.0.0.1:8080...
  • etc/transform.yaml文件里可以修改侦听端口等配置

7. 修改API Gateway代码调用transform rpc服务

  • 修改配置文件shorturl-api.yaml,增加如下内容
Transform:
  Etcd:
    Hosts:
      - localhost:2379
    Key: transform.rpc
  • 通过etcd自动去发现可用的transform服务
  • 修改internal/config/config.go如下,增加transform服务依赖
type Config struct {
    rest.RestConf
    Transform rpcx.RpcClientConf     // 手动代码
}
  • 修改internal/svc/servicecontext.go,如下:
type ServiceContext struct {
    Config    config.Config
    Transformer rpcx.Client                               // 手动代码
}
func NewServiceContext(c config.Config) *ServiceContext {
    return &ServiceContext{
        Config:    c,
        Transformer: rpcx.MustNewClient(c.Transform),  // 手动代码
    }
}
  • 通过ServiceContext在不同业务逻辑之间传递依赖
  • 修改internal/logic/expandlogic.go里的Expand方法,如下:
func (l *ExpandLogic) Expand(req types.ExpandReq) (*types.ExpandResp, error) {
  // 手动代码开始
  trans := transformer.NewTransformer(l.svcCtx.Transformer)
    resp, err := trans.Expand(l.ctx, &transformer.ExpandReq{
        Shorten: req.Shorten,
    })
    if err != nil {
        return nil, err
    }
    return &types.ExpandResp{
        Url: resp.Url,
    }, nil
  // 手动代码结束
}
  • 通过调用transformerExpand方法实现短链恢复到url
  • 修改internal/logic/shortenlogic.go,如下:
func (l *ShortenLogic) Shorten(req types.ShortenReq) (*types.ShortenResp, error) {
  // 手动代码开始
    trans := transformer.NewTransformer(l.svcCtx.Transformer)
    resp, err := trans.Shorten(l.ctx, &transformer.ShortenReq{
        Url: req.Url,
    })
    if err != nil {
        return nil, err
    }
    return &types.ShortenResp{
        Shorten: resp.Shorten,
    }, nil
  // 手动代码结束
}
  • 通过调用transformerShorten方法实现url到短链的变换
    至此,API Gateway修改完成,虽然贴的代码多,但是其中修改的是很少的一部分,为了方便理解上下文,我贴了完整代码,接下来处理CRUD+cache

8. 定义数据库表结构,并生成CRUD+cache代码

  • shorturl下创建rpc/transform/model目录:mkdir -p rpc/transform/model
  • 在rpc/transform/model目录下编写创建shorturl表的sql文件shorturl.sql,如下:
CREATE TABLE `shorturl`
(
  `shorten` varchar(255) NOT NULL COMMENT 'shorten key',
  `url` varchar(255) NOT NULL COMMENT 'original url',
  PRIMARY KEY(`shorten`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
  • 创建DB和table
create database gozero;
source shorturl.sql;
  • rpc/transform/model目录下执行如下命令生成CRUD+cache代码,-c表示使用redis cache
goctl model mysql ddl -c -src shorturl.sql -dir .
  • 也可以用datasource命令代替ddl来指定数据库链接直接从schema生成
    生成后的文件结构如下:
rpc/transform/model
├── shorturl.sql
├── shorturlmodel.go              // CRUD+cache代码
└── vars.go                       // 定义常量和变量

9. 修改shorten/expand rpc代码调用crud+cache代码

  • 修改rpc/transform/etc/transform.yaml,增加如下内容:
DataSource: root:@tcp(localhost:3306)/gozero
Table: shorturl
Cache:
  - Host: localhost:6379
  • 可以使用多个redis作为cache,支持redis单点或者redis集群
  • 修改rpc/transform/internal/config.go,如下:
type Config struct {
    rpcx.RpcServerConf
    DataSource string             // 手动代码
    Table      string             // 手动代码
    Cache      cache.CacheConf    // 手动代码
}
  • 增加了mysql和redis cache配置
  • 修改rpc/transform/internal/svc/servicecontext.go,如下:
type ServiceContext struct {
    c     config.Config
  Model *model.ShorturlModel   // 手动代码
}
func NewServiceContext(c config.Config) *ServiceContext {
    return &ServiceContext{
        c:             c,
        Model: model.NewShorturlModel(sqlx.NewMysql(c.DataSource), c.Cache, c.Table), // 手动代码
    }
}
  • 修改rpc/transform/internal/logic/expandlogic.go,如下:
func (l *ExpandLogic) Expand(in *expand.ExpandReq) (*expand.ExpandResp, error) {
    // 手动代码开始
    res, err := l.svcCtx.Model.FindOne(in.Shorten)
    if err != nil {
        return nil, err
    }
    return &transform.ExpandResp{
        Url: res.Url,
    }, nil
    // 手动代码结束
}
  • 修改rpc/shorten/internal/logic/shortenlogic.go,如下:
func (l *ShortenLogic) Shorten(in *shorten.ShortenReq) (*shorten.ShortenResp, error) {
  // 手动代码开始,生成短链接
    key := hash.Md5Hex([]byte(in.Url))[:6]
    _, err := l.svcCtx.Model.Insert(model.Shorturl{
        Shorten: key,
        Url:     in.Url,
    })
    if err != nil {
        return nil, err
    }
    return &transform.ShortenResp{
        Shorten: key,
    }, nil
  // 手动代码结束
}
  • 至此代码修改完成,凡事手动修改的代码我加了标注

10. 完整调用演示

  • shorten api调用
curl -i "http://localhost:8888/shorten?url=http://www.xiaoheiban.cn"
  • 返回如下:
HTTP/1.1 200 OK
Content-Type: application/json
Date: Sat, 29 Aug 2020 10:49:49 GMT
Content-Length: 21
{"shorten":"f35b2a"}
  • expand api调用
curl -i "http://localhost:8888/expand?shorten=f35b2a"
  • 返回如下:
HTTP/1.1 200 OK
Content-Type: application/json
Date: Sat, 29 Aug 2020 10:51:53 GMT
Content-Length: 34
{"url":"http://www.xiaoheiban.cn"}

11. Benchmark

因为写入依赖于mysql的写入速度,就相当于压mysql了,所以压测只测试了expand接口,相当于从mysql里读取并利用缓存,shorten.lua里随机从db里获取了100个热key来生成压测请求

可以看出在我的MacBook Pro上能达到3万+的qps。

12. 总结

我们一直强调工具大于约定和文档

go-zero不只是一个框架,更是一个建立在框架+工具基础上的,简化和规范了整个微服务构建的技术体系。

我们在保持简单的同时也尽可能把微服务治理的复杂度封装到了框架内部,极大的降低了开发人员的心智负担,使得业务开发得以快速推进。

通过go-zero+goctl生成的代码,包含了微服务治理的各种组件,包括:并发控制、自适应熔断、自适应降载、自动缓存控制等,可以轻松部署以承载巨大访问量。

有任何好的提升工程效率的想法,随时欢迎交流!👏

13. 项目地址

https://github.com/tal-tech/go-zero

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
4天前
|
Shell Go 开发工具
【环境】Rocky8使用gvm配置Go多版本管理的微服务开发环境(go-zero)
通过本文的介绍,我们详细讲解了如何在Rocky8上使用gvm来管理多个Go版本,并配置go-zero框架的开发环境。通过gvm的灵活管理,开发者可以轻松切换不同的Go版本,以适应不同项目的需求。同时,go-zero框架的使用进一步提升了微服务开发的效率和质量。希望本文能帮助开发者构建高效的Go语言开发环境,提高项目开发的灵活性和稳定性。
88 63
|
7月前
|
消息中间件 人工智能 供应链
go-zero 微服务实战系列(二、服务拆分)
go-zero 微服务实战系列(二、服务拆分)
|
6月前
|
缓存 安全 Java
如何利用Go语言提升微服务架构的性能
在当今的软件开发中,微服务架构逐渐成为主流选择,它通过将应用程序拆分为多个小服务来提升灵活性和可维护性。然而,如何确保这些微服务高效且稳定地运行是一个关键问题。Go语言,以其高效的并发处理能力和简洁的语法,成为解决这一问题的理想工具。本文将探讨如何通过Go语言优化微服务架构的性能,包括高效的并发编程、内存管理技巧以及如何利用Go生态系统中的工具来提升服务的响应速度和资源利用率。
|
7月前
|
消息中间件 缓存 Kafka
go-zero微服务实战系列(八、如何处理每秒上万次的下单请求)
go-zero微服务实战系列(八、如何处理每秒上万次的下单请求)
|
6月前
|
Kubernetes Go Docker
掌握微服务架构:从Go到容器化的旅程
摘要,通常简短概述文章内容,要求精炼。在本文中,我们将打破常规,采用一种故事化叙述的摘要,旨在激发读者的好奇心和探究欲: “从宁静的海滨小城出发,我们踏上了一场技术探险之旅,探索微服务架构的奥秘。我们将学习如何用Go编写微服务,以及如何通过Docker和Kubernetes将它们打包进小巧的容器中。在这场旅程中,我们将遇到挑战、收获知识,最终实现应用的快速部署与可扩展性。”
|
7月前
|
缓存 NoSQL Redis
go-zero微服务实战系列(七、请求量这么高该如何优化)
go-zero微服务实战系列(七、请求量这么高该如何优化)
|
7月前
|
缓存 NoSQL 数据库
go-zero微服务实战系列(五、缓存代码怎么写)
go-zero微服务实战系列(五、缓存代码怎么写)
|
7月前
|
Cloud Native JavaScript API
一文读懂云原生 go-zero 微服务框架
一文读懂云原生 go-zero 微服务框架
|
7月前
|
XML JSON Go
微服务架构下的配置管理:Go 语言与 yaml 的完美结合
微服务架构下的配置管理:Go 语言与 yaml 的完美结合
|
7月前
|
消息中间件 SQL 关系型数据库
go-zero微服务实战系列(十、分布式事务如何实现)
go-zero微服务实战系列(十、分布式事务如何实现)

热门文章

最新文章