支付方案专题

简介: 本文介绍大型团队如何通过自动化部署平台实现多环境(dev/test/pre/prod)高效发布,涵盖各环境职责、基于Jenkins+K8S的CI/CD流程、分支管理、容器化部署及日志排查方案,提升发布效率与系统稳定性。

前言

在一个大型团队中,生产发布是一件复杂的事情,从dev(前后端联调)-->test(测试集成&压力测试)-->pre(灰度测试)-->prod(生产环境)的多环境推进,以及生产环境的热更新、回滚等问题一直在困扰着各个公司,今天我将基于公司的自动化部署平台为大家讲解下我们是如何做到多环境部署。

每个环境做什么

在明确发布之前,我们需要明确一下每个环境的主要职责和角色:

DEV:也叫开发环境

  • 事项:前后端接口联调,修复代码基础缺陷
  • 角色:前端-后端

TEST:也叫测试环境

  • 事项:测试集成测试、压力测试,开发修复bug
  • 角色:开发(前端后端)、测试

PRE:也叫灰度环境

  • 事项:生产环境冒烟测试,切5个左右真实生产数据,回归流程是否有问题
  • 角色:开发(前端后端)、测试

PROD:也叫生产环境

  • 事项:发布代码,做真实环境验证,有问题第一时间修复(sql止血订正或代码回滚)
  • 角色:开发(前端后端)、测试、运维

大型公司如何管控代码发布

随着自动化部署CI/CD(DevOPS)成熟,目前大型公司都开始搭建自动化部署平台,形如下图:

图1 (自动化部署平台应用主页)

当用户进入应用主页后,会发现有不同的发布环境,每一个环境对应一台服务器、一个访问域名、一组中间件环境(即dev、test等环境的nacos-mysql等都是分环境部署的)。

图2 (自动化部署平台多环境)

同时自动化部署平台会自动整合公司的gitlab,将分支展现在发布平台,以便用户可以界面化操作和部署

图3 (自动化部署平台分支管理)

当用户需要创建分支时,不再需要像传统的那样去git创建,或者idea创建,而是可以直接在当前发布平台创建(底层是一样的,都是创建一个新的git分支)

图4 (自动化部署平台分支创建)

当用户需要发布时,只需要进入对应的环境(这里我们以test为例),勾选所需要发布的分支,即可实现自动化部署。下图可以看到test环境同时部署分支约20个。

图5 (自动化部署平台提交发布)

需要注意的是:假设我们需要对A分支进行发布,只需要勾选A分支,底层Jenkins会自动完成jar包构建,并执行底层的Docker run指令完成容器部署,这里部署的jar包每个环境都是隔离的。

即dev的jar跟test无关,每次都是新构建自己的。即使是test,点击两次发布也是构建了两个jar,只不过第二次的会覆盖第一次。这点各位需要明晰。

当测试提出我们有bug时,对应的开发人员就需要在idea中,A分支上完成代码修复并push,然后在自动化部署平台重新勾选分支,然后提交部署,完成一次重新发布,循环此过程,直至缺陷被修复。

如何排查日志

当测试提出某个环境有bug时,如果是传统Linux直接部署,我们会登录到指定的服务器用cat、grep、vim等指令进入日志文件,然后找到错误的堆栈信息。如果有结合Arthas的(Arthas排查错误)可以启动Arthas查看错误信息。但是现在一般都是会借助于Skywalking或ELK进行日志查看

图6 (自动化部署平台日志排查)

在上图中我们就可以看到:一个GET请求,请求路径是:/dict/default/staff,然后一个远程服务调用,使用的dubbo,最后查询mysql数据库,这样就完成一个完整的日志链路追踪。

如何回答相关问题

1.你们公司如何部署发布

方案一:Linux原生部署

我们公司的部署呢,还是比较原始的,就是直接部署在原生的Linux系统,我们平时dev发布就在idea构建好一个jar包,然后用XShell上传上去,用指令:nohup java -jar tj-learning.jar启动。测试环境和生产也是一样的操作

方案二:基于Jenkins的自动化部署平台

我们公司的部署都已经非常成熟了,有一套自动部署平台,底层是Jenkins+K8S实现自动化部署发布,我们只需要在dev、test、prod等环境勾选需要发布的分支就行,它全帮我们做好了自动部署。

2.你们公司怎么排查错误

方案一:Linux原生环境

我们公司的部署呢,还是比较原始的,就是直接部署在原生的Linux系统,所以排查日志也需要自己去找到error.log,然后手动找到报错的堆栈信息,分析出原因。比如有个NPE(NullPointException-空指针异常),就会显示具体哪行报错,我们就会分析、修复。

方案二:基于Docker的原生平台

我们公司目前的部署就是原生的Docker,通过docker logs命令人肉排查

方案三:基于Skywalking的日志检索平台(CI/CD平台)

对于日志排查,我们公司是有Skywalking的,只需要测试给我对应的traceId,我输入进去就可以看到完整的调用链路和报错的堆栈信息,然后就可以分析报错原因并修复了

相关文章
|
2天前
|
关系型数据库 应用服务中间件 nginx
容器化部署引擎Docker
Docker是一种轻量级容器化技术,通过将应用及其依赖打包成镜像,实现跨环境一致部署。它利用沙箱机制隔离容器,避免依赖冲突,解决了开发、测试、生产环境不一致的问题,具备启动快、资源占用少、易于迁移等优势。
 容器化部署引擎Docker
|
1天前
|
消息中间件 监控 Java
RocketMQ:底层Netty频繁OS OOM
本文详述RocketMQ因Netty多ClassLoader加载多个PooledByteBufAllocator,导致堆外内存超限引发OS OOM的排查过程,揭示底层内存管理机制及解决方案。
 RocketMQ:底层Netty频繁OS OOM
|
2天前
|
监控 Java 数据库
服务保护、分布式事务
本课程深入讲解微服务保护与分布式事务控制。内容涵盖:1)微服务雪崩问题及其成因;2)基于Sentinel实现熔断、降级、限流与线程隔离等保护机制,包括使用FallbackFactory编写降级方法及@SentinelResource注解应用;3)理解CAP原理并选型分布式事务方案;4)利用Seata框架(AT模式)实现跨服务事务一致性,保障数据可靠。
 服务保护、分布式事务
|
2天前
|
运维 NoSQL 测试技术
Redis:内存陡增100%深度复盘
本文复盘了一起Redis因大KEY和缓冲区激增导致内存占满、服务超时的故障。根本原因为大KEY引发带宽耗尽,输入输出缓冲区膨胀,最终内存被占满,即便淘汰策略生效也无法释放,致使服务不可用。文章深入分析了缓冲区机制,并提出开发运维规范与优化方案。
Redis:内存陡增100%深度复盘
|
2天前
|
前端开发 安全 Java
1.自定义认证前端页面
本文介绍Spring Security前后端整合的实现步骤:前端引入login.html页面,后端定义接口与配置类,通过SecurityConfig设置表单登录、权限认证及跳转逻辑,最后启动项目验证登录流程,实现安全访问控制。
|
1天前
|
存储 缓存 运维
一场FullGC故障排查
本文记录了一次Java应用CPU使用率异常升高的排查过程。通过分析发现,问题由Full GC频繁触发导致,根源在于将大Excel文件解析为List<Map>结构后长期驻留JVM内存,造成堆内存膨胀、空间利用率低。结合JProfiler工具定位大对象,最终通过优化数据存储方式解决GC问题,总结出一套线上性能问题排查思路。
|
1天前
|
编解码 数据安全/隐私保护
性能优化专题
本文包含两幅带水印的图片,内容无法直接查看,可能为文档或设计稿的插图。图片分辨率分别为1080×756和1080×1697,均居左显示,用于辅助说明上下文信息。
 性能优化专题
|
1天前
|
Java 测试技术 Linux
幂等方案专题
本文介绍大型团队如何通过自动化部署平台实现多环境(dev/test/pre/prod)高效发布,涵盖各环境职责、基于Jenkins+K8S的CI/CD流程、分支管理与日志排查方案,并对比不同部署模式下的问题应对策略。
|
2天前
|
安全 Java 开发工具
1.工程搭建与验证
本文介绍如何使用阿里云脚手架快速搭建Spring Boot工程,并整合Spring Security实现基础安全控制。涵盖项目创建、代码导入、Web依赖配置及登录验证流程,附完整代码仓库地址。
|
2天前
|
关系型数据库 MySQL Java
开发环境搭建
本指南详解开发环境搭建:要求电脑内存16G以上,推荐32G;安装VMware虚拟机并导入CentOS 7系统,配置网络与IP;通过FinalShell远程连接,部署Docker、MySQL等服务;配置IDEA、Maven及Git,拉取项目代码并导入数据库;启动前后端服务,完成商城项目运行。适用于Windows与苹果系统,助力高效开发。
开发环境搭建