《我修复的印象最深的一个bug》--etcd 客户端的使用姿势

简介: 《我修复的印象最深的一个bug》--etcd 客户端的使用姿势

记录一个 etcd 客户端使用的bug,当时折腾了好久。


本文将会按照安装的过程一步步讲述遇到问题以及如何解决。


etcd clientv3 客户端

首先是 etcd clientv3 的初始化,我们根据指定的 etcd 节点,建立客户端与 etcd 集群的连接。


cli,err :=clientv3.New(clientv3.Config{
Endpoints:[]string{"localhost:2379"},
DialTimeout: 5*time.Second,
    })

实例化一个 client,这里需要传入的两个参数:

  • Endpoints:etcd 的多个节点服务地址,因为我是单点本机测试,所以只传 1 个。
  • DialTimeout:创建 client 的首次连接超时,这里传了 5 秒,如果 5 秒都没有连接成功就会返回 err;值得注意的是,一旦 client 创建成功,我们就不用再关心后续底层连接的状态了,client 内部会重连。

Go mod 包依赖冲突处理

我使用了 Go Module 管理依赖。引入相应的第三方依赖,主要是 clientv3 `go.etcd.io/etcd/clientv3`。根据 go.mod 文件来处理依赖关系:


$Gomodtidy


命令执行完,报了如下的错误:

go: github.com/keets2012/etcd-book-code/clientimportsgo.etcd.io/etcd/clientv3testedbygo.etcd.io/etcd/clientv3.testimportsgithub.com/coreos/etcd/authimportsgithub.com/coreos/etcd/mvcc/backendimportsgithub.com/coreos/bbolt: github.com/coreos/bbolt@v1.3.5: parsinggo.mod:
moduledeclaresitspathas: go.etcd.io/bboltbutwasrequiredas: github.com/coreos/bbolt


看起来 coreos 维护的 bbolt 库声明它的 module 名称是 go.etcd.io/bbolt ,结果在使用它的时候使用的 package path 是 github.com/coreos/bbolt ,导致不一致( etcd#11720 , etcd#11739 )、 etcd#11749 。

显然是 etcd 使用的是错误的 bbolt 的路径。冷静下来,考虑解决办法。幸好,go module 提供 replace 的方法,我们可以使用下面的方法替换:

replacegithub.com/coreos/bbolt=>go.etcd.io/bboltv1.3.5


然而这样替换之后,还是会出现如下的错误:

go: go.etcd.io/bbolt@v1.3.5usedfortwodifferentmodulepaths (github.com/coreos/bboltandgo.etcd.io/bbolt)


按照错误的描述,我们需要再加上一条 replace,使其成为不同的依赖路径。

replacego.etcd.io/bboltv1.3.5=>github.com/coreos/bboltv1.3.5


现在我们再执行 `go mod tidy`,bbolt 的问题已经解决了,但是新问题又来了:

github.com/keets2012/etcd-book-code/clientimportsgo.etcd.io/etcd/clientv3testedbygo.etcd.io/etcd/clientv3.testimportsgithub.com/coreos/etcd/integrationimportsgithub.com/coreos/etcd/proxy/grpcproxyimportsgoogle.golang.org/grpc/naming: modulegoogle.golang.org/grpc@latestfound (v1.32.0), butdoesnotcontainpackagegoogle.golang.org/grpc/naming


搜一下 issue,你会看到 etcd#11563 、 etcd#11650 、 etcd#11707

Etcd 的代码和新版本的 grpc(v1.27.0)冲突,再次施展替换大法,让项目使用老的 grpc:

replace (
google.golang.org/grpc=>google.golang.org/grpcv1.26.0)


再次执行依赖之间的关系,终于不再报错。检查我们的 go.mod 文件,发现很多的 indirect 引用的库,居然还有两个 etcd :

github.com/coreos/etcdv3.3.25+incompatiblego.etcd.io/etcdv3.3.25+incompatiblegithub.com/coreos/bboltv1.3.5// indirect


github.com/coreos/bbolt 之所以显示为 indirect 是因为我们的代码中还没有引用这个 package。当引用之后,就可以看到 indirect 标记没了。

我们的项目中引入了 go.etcd.io/etcd,为什么还会有一个 github.com/coreos/etcd?这两个路径的代码应该也是一样。

由此可以判断肯定是某个库引用 github.com/coreos/etcd 了。我们来搜索下是哪个库?go mod 还提供了其他的命令:

gomodwhy依赖//解释为什么需要包或模块gomodgraph依赖//输出 module 需求图


$Gomodwhygithub.com/coreos/etcdgo: findingmoduleforpackagegithub.com/spf13/cobrago: findingmoduleforpackagegithub.com/spf13/pflaggo: foundgithub.com/spf13/cobraingithub.com/spf13/cobrav1.0.0go: foundgithub.com/spf13/pflagingithub.com/spf13/pflagv1.0.5


或者使用 Go mod graph 查找,执行如下的命令筛选:


Gomodgraph|grepgithub.com/coreos/etcdgithub.com/keets2012/etcd-book-codegithub.com/coreos/etcd@v3.3.25+incompatiblegithub.com/spf13/viper@v1.4.0github.com/coreos/etcd@v3.3.10+incompatible


可以看到是与 github.com/spf13/viper@v1.4.0 相关,github.com/coreos/etcd 使用了 github.com/spf13/cobra@v1.0.0 库, cobra 又使用 viper 的 1.4.0 版本,而 viper@v1.4.0 又使用了 etcd@v3.3.10+incompatible。造成了循环依赖,对于引入依赖来说已经面目全非,原先 go.etcd.io/etcd,现在却成了 github.com/coreos/etcd。

由于 Go module 的一些 bug,以及开源项目使用 Go module 的错误姿势,go module 模式下导致使用 Etcd 代码库困难重重。这里我们已经解决了 etcd clientv3 依赖引入的问题。



目录
相关文章
|
NoSQL Redis 数据安全/隐私保护
Redis 6.0 新特性详解
艺术致敬! 一、众多新模块(modules)API   Redis 6中模块API开发进展非常大,因为Redis Labs为了开发复杂的功能,从一开始就用上Redis模块。Redis可以变成一个框架,利用Modules来构建不同系统,而不需要从头开始写然后还要BSD许可。
10826 27
|
JavaScript Windows
Cocos Creator3.8 项目实战(十)使用 protobuf详细教程
Cocos Creator3.8 项目实战(十)使用 protobuf详细教程
2292 0
|
Go 调度 机器学习/深度学习
|
9月前
|
数据采集 算法 数据安全/隐私保护
Python 工业级视频流处理:从 FFmpeg 管道优化到非结构化数据清洗
文章摘要:在多模态大模型(LMM)训练和计算机视觉落地的过程中,80% 的时间通常消耗在非结构化数据(视频、图像)的清洗与预处理上。不同于简单的脚本处理,生产环境下的视频流处理需要考虑内存泄漏、IO 瓶颈以及数据净度。本文将分享一套基于 Python + FFmpeg 管道(Pipe)的高并发处理方案,并探讨数据清洗环节的工程化实践。
|
存储 关系型数据库 分布式数据库
PolarDB开源数据库进阶课14 纯享单机版
PolarDB不仅支持基于“共享存储+多计算节点”的集群版,还提供类似开源PostgreSQL的单机版。单机版部署简单,适合大多数应用场景,并可直接使用PostgreSQL生态插件。通过Docker容器、Git克隆代码、编译软件等步骤,即可完成PolarDB单机版的安装与配置。具体操作包括启动容器、进入容器、克隆代码、编译软件、初始化实例、配置参数及启动数据库。此外,还有多个相关教程和视频链接供参考,帮助用户更好地理解和使用PolarDB单机版。
1327 1
|
存储 数据库 数据安全/隐私保护
抖音ck提取工具,快手小红书微博哔哩哔哩cookie提取登录软件,python框架
这个框架提供了完整的Cookie提取功能,支持抖音、快手、小红书、微博和哔哩哔哩平台。主要特点包括
|
弹性计算 自然语言处理 数据可视化
|
关系型数据库 MySQL API
微服务框架 go-zero 快速实战
微服务框架 go-zero 快速实战
1162 1
|
消息中间件 Kafka API
kafka使用教程
kafka使用教程
|
开发工具 图形学
【推荐100个unity插件之11】Shader实现UGUI的特效——UIEffect为 Unity UI 提供视觉效果组件
【推荐100个unity插件之11】Shader实现UGUI的特效——UIEffect为 Unity UI 提供视觉效果组件
3390 0