80%的软件环境管理问题,根因都在这里 |研发效能提升36计

简介: 80%的软件环境管理问题,根因都在这里,云效云原生应用管理平台AppStack正是基于OAM的应用交付平台,企业在云效AppStack,可以通过应用编排、占位符、变量等声明式定义,实现一套编排多环境差异化部署,同时基于版本和基线实现环境一键拉起、一键回滚。

image.png

专栏策划|雅纯
志愿编辑|jimmy、吕瑞星


软件交付的终态是提供稳定可预期的系统,要做到这一点,我们需要确保:一、软件制品的一致性;二、运行环境的一致性。

第3讲我们分享了如何保证软件制品的一致性,这一讲我们来谈谈如何保证环境的一致性

运行环境一致性的目标是环境可预期、稳定、低成本。其中低成本比较关键,因为环境资源的成本一般比较高。

我们可以将运行环境分为3部分:制品、执行引擎和编排规则。

image.png

要保证制品的一致性,第一是保证代码及其依赖的一致性;第二是保证构建环境的一致性;最后是保证构建脚本的一致性。保证环境的一致性,也包含了三点:

  1. 应用的一致性,比如一致的容器镜像;
  2. 容器运行所需的上下文的一致性,比如一致的数据配置等;
  3. 编排规则的一致性,需要保证编排执行相同的规则,比如相同容器部署规则、相同节点分布规则、相同备份规则等。

保证这3点,部署完成之后才会形成一致的可运行环境。但是现实当中,环境还是会有很多其它的问题,比如:

  • 配置文件中有好多监控之类的配置,对于使用者来说,不知道配置的具体作用,需要修改时不知如何设置。
  • 测试的时候依赖的环境经常发生问题,耗费大量等待和排查时间。比如说依赖的API经常出问题,排查修复可能需要等待依赖方很久,导致测试工作无法继续进行。
  • 新环境的搭建很耗时。搭建一个新的环境是很痛苦的事情,比如国际化团队,经常要搭建新的站点,而每搭一个新的环境就要耗费一整天的时间是很痛苦的。
  • 应用在本地无法运行。比如因为缺某个资源导致应用无法正常运行。
  • 配置环境需要小心翼翼,可能出现配置遗漏。每次配环境的时候需要很小心,特别是当环境配置由多人配合时,会出现配置冲突,导致程序无法运行,需要全链路排查解决。

这里我们简单列了五个常见的问题,它们的根源都是环境缺乏清晰的定义:不清楚环境的具体内容、对环境搭建过程的认知模糊。

环境的清晰定义,包括环境包含什么制品、这些制品如何部署等。那么环境管理的终态是什么呢?

image.png

当制品相同、运行上下文相同,并且资源数据是一样的情况下,基于相同的编排规则,环境就应该是一致的。同时,环境可以由软件来定义和声明。这是我们认为的环境管理的终态,简单来说,即软件定义的不可变环境。软件定义的不可变环境,可以纳入版本管理,保证环境首先是定义明确的,其次是有明确版本的。

环境管理的3个阶段

image.png

阶段一:说明书

环境管理的第一个阶段是说明文档,这点相信很多人都经历过。当我们在做一个项目或产品时,会写整个产品的部署说明书、说明文档、升级文档等各种文档。但文档很难保证实用,也不一定是最新的、准确的。每次我们去现场交付时,都会遇到一些文档里没有描述的问题。这时候还得打电话确认,是否有遗漏什么。用文档或说明书去管理环境,存在很大的弊端,所以我们想到了用命令的方式去管理。

阶段二:命令

第二阶段,我们通过命令的方式,写了各种shell、Python脚本,把相关命令组合在一起。之前我们在做一个产品的私有化交付的时候,一开始的做法就是用脚本去管理环境,因为开启一个新环境实在太痛苦了,需要花很多时间改参数、找包、配IP等,效率太低。所以我们写了脚本来管理,用脚本代替了文档。

但是用脚本管理环境也存在很多问题。我们要应对各种各样的环境,同一个任务在不同的场景里,命令组合可能是不一样的,所以脚本会越来越多,维护脚本的成本也越来越高。

阶段三:声明

为了解决命令脚本的维护和稳定性问题,我们进入了第三个阶段,声明式——通过配置的方式表达环境,把环境定义出来。声明式的描述提供了环境的确定性表达。

以k8s为例,我们以一个例子来看,如何做环境声明

image.png

上图是K8S的简单架构,左上角是K8S的master,左下角是node,master有好几个组件:scheduler、ControllerManager、APIserver,以及Etcd。Etcd是一个分布式存储,配置信息都在Etcd里面。Node是物理机或者虚拟机,在每一个Node上面会有多个pod,上面会运行很多的容器。

我们知道K8S的最小单元是pod,里面有容器,还有各种网络存储等,通过pod声明去描述。声明被apply后,具体的事情在controller里面处理。

通过sidecar分离关注点

image.png

我们写一个应用,这个应用里面大量的代码其实与业务无关,而是包含很多服务治理的代码,例如日志、监控、限流、熔断等。这些代码占了很大的比重,而且这些代码的维护者和应用开发者不一定是同一批人。服务治理相关的代码,在很多企业会有专门的团队负责维护和升级,类似阿里的中间件团队。传统的情况下,我们需要升级并重新部署应用才能升级服务治理能力。但是在云原生时代,应用开发者希望仅关注应用业务代码,服务治理相关的代码放在其他的容器里面,业务容器和服务治理容器通常会编排在同一个pod里面,但是服务治理容器的管理、开发、发布都跟应用开发者没有关系,这些就是sidecar容器。sidecar容器实现了关注点的分离,应用的开发者和中间件的开发者以及运维相关的开发者,都可以有自己的关注点。

我们以两个角色为例,一是业务的开发者,关注的是应用的容器,所以发布的时候,他的关注点都在应用容器这一块。二是企业的SRE,他的关注点往往在sidecar的各种服务治理容器上,比如logagent的日志级别和采样率是否合理等。

通过sidecar,业务开发者和SRE的关注点就分离了。这样分离还有一个好处,就是中间件下沉,都以sidecar的方式管理。一旦遇到相应的中间件需要升级,业务代码不需要做任何的改变和发布,只需要做sidecar的发布就好了。

我们前面提到,一致的环境需要有3个组成部分:相同的制品、相同的运行上下文以及相同的编排规则。相同的运行上下文,本质就是里面的配置要一致。最早我们是用文档告诉我们怎么把环境管理起来,之后用脚本,最后用环境声明。

然而,用声明式的方式定义环境也并不完美。举个具体的例子,在应用运行的时候需要有一些相应的配置,中间件、基础资源、CPU、存储等都需要配置,这样会面临一个很大的问题——环境相关的配置太多了。

环境相关的配置太多,该怎么管理好呢?

通过IaC来定义环境

image.png

为了解决这个问题,业内采用了IaC的概念(InfrastructureasCode)。早期在云机房上架的时候会用到IaC,比如有一个新的机器过来,要装成centos7的系统,里面要配特定的DNS服务等等。这是就会定义一个声明文件,发送给saltstack这样的工具。现在整个环境都是通过基础设施来描述出来的,所以整个环境包括中间件的资源都是基础设施了,在范围上比原先要广的多。

从配置的角度,我们有应用配置、运维配置、基础设施运维配置,甚至软件生产过程的配置。我们把应用代码和IaC代码,放在两个库里面(也有放到一个库里面的,各有利弊,在此我们不展开也不评价)。

比如上图中,在IaCRepo里我们放了动态配置(即运行时的配置)、BaaS配置(基础设施,如数据库、中间件存储、消息队列等)、监控配置(如监控粒度、采样频率)、发布配置等。所有的配置都声明在代码库里面,基于该声明编排的所有环境就都是一致的了。

任何事情都是有利有弊,用IaC的方式管理环境又会带来什么新的挑战呢?

image.png

首先是“灵活的代价”。因为所有的配置都是松散的文本,缺少统一的聚合根,导致修改者需要自己理解这些配置背后对应的依赖关系。比如某个配置项设置为on会开启限流,但是必须配合特定的configMap一起使用;比如开启了一个Ingress插件,但如果另一个Rollout插件没有开启,会无法正常工作;再比如HPA和CronHPA无法同时使用,会产生冲突。由于编写的灵活性,会导致无穷的组合形式,其组合产生的后果往往在运行时才会发现。

其次是知识的成本。IaC将一个环境所有的配置都以文本的界面给到了开发者,但是很多配置项是需要专业背景的,比如运维相关的策略、比如监控的配置方式等等,价值IaC本身的学习成本,往往让很多开发者望而生畏。

为了解决这个问题,阿里联合微软一起发布了OAM模型,以应用为统一维度,将IaC包含的各类资源和角色进行了分类和聚合。

image.png

首先,OAM引入了应用(Application)的概念,将应用的各类IaC配置都聚合在一起,解决其依赖问题。

其次,OAM将IaC的使用者分离为:应用开发者、应用运维、基础设施运维三大角色,彼此的关注点进行了分离。

OAM抽象和简化了IaC的定义和维护方式,降低开发者的学习和使用成本。

总结一下,我们认为,环境管理的终态是软件定义的不可变环境,而当下,它的最佳实践我们认为是基于OAM模型的、以应用为核心的IaC声明。

云效云原生应用管理平台AppStack正是基于OAM的应用交付平台,企业在云效AppStack,可以通过应用编排、占位符、变量等声明式定义,实现一套编排多环境差异化部署,同时基于版本和基线实现环境一键拉起、一键回滚。感兴趣的同学点下方链接即可免费使用。

https://www.aliyun.com/product/yunxiao/appstack?channel=yy_rccb_36


下篇预告:环境管理的目标是希望有一个稳定、可预期、低成本的环境。在软件开发中,我们会涉及到开发、测试、生产各种环境,如何保证这些环境的稳定、可预期、低成本呢?下一节我们将进一步展开,敬请期待。

image.png

阅读上篇文章:这样才是代码管理和 Commit 的正确姿势!

lQLPDhshq7rXr9DNBDjNB4Cw6h-soueBRw4CB9bnfwCoAA_1920_1080.png

相关文章
|
1月前
|
敏捷开发 数据可视化 项目管理
快速提升工作效率:五大桌面工作安排软件深度评测
随着工作节奏的加快,合理高效地安排工作已成为职场人士和团队成功的关键。本文评测了五款流行的桌面工作安排软件:板栗看板、Trello、Asana、Notion 和 Microsoft To Do,帮助用户快速找到提升工作效率的最佳工具。每款软件都有其独特优势,如板栗看板的迭代管理、Trello 的灵活看板、Asana 的项目视图、Notion 的高度定制化以及 Microsoft To Do 的简洁易用。选择合适的工具,将有效提升个人和团队的工作效率。
64 1
|
4月前
|
测试技术 数据安全/隐私保护 UED
通用研发提效问题之衡量软件运行质量,如何解决
通用研发提效问题之衡量软件运行质量,如何解决
|
3月前
|
Java
软件交付质量问题之要提升发布成功率,如何实现
软件交付质量问题之要提升发布成功率,如何实现
|
3月前
|
数据采集 安全 测试技术
软件交付质量问题之在软件交付的生命周期里,要合理安排全方位的测试,该如何实现
软件交付质量问题之在软件交付的生命周期里,要合理安排全方位的测试,该如何实现
|
6月前
|
消息中间件 Cloud Native Java
项目环境稳定性指标建设之路
这篇文章讨论了项目环境在集团研发中的重要性,它是一个灵活的平台工具,用于支持联调测试和不同阶段的环境隔离。早期的项目环境管理存在任务重复运行、单机处理瓶颈和任务猝死等问题。为了解决这些问题,文章介绍了通过引入领域驱动设计(DDD)来重构流程引擎,创建了统一的异常处理和任务执行接口,增强了异常处理能力,并通过分布式分片任务、工厂模式和责任链模式实现了任务的分布式运行。此外,还使用分布式锁解决了多机忙等和任务重复执行的问题,提高了任务执行效率。优化后,环境创建成功率提升至99%以上,创建时间降低至100秒以下,系统异常率低于1%,并且能够应对更高的并发量。
|
监控 算法 数据可视化
数据挖掘算法如何提升企业电脑监控软件的效能
不知道大家有没有注意到企业电脑监控软件是多么神奇?它们可以帮助你们实时监控员工的电脑活动,以确保工作效率、数据安全和遵守法规。但是,要从大量的数据中提取有用的信息并做出决策可不是小事。这就是“神奇数据挖掘算法”该出场的时候啦!这个算法能够帮助企业更好地理解员工行为、检测异常和提高生产效率。
149 0
|
6月前
|
人工智能 监控 安全
《机器人流程自动化能力评估体系 第1部分:系统和工具》行标发布
《机器人流程自动化能力评估体系 第1部分:系统和工具》(YD/T 4391.1-2023)是国内首部正式发布的RPA行业标准,标准的发布实施填补了我国RPA行业产品标准的空白,在相关行业发展中具有里程碑意义。
145 0
《研发效能提升36计-敏捷协作篇:束水攻沙,持续加快产品交付速度》电子版地址
研发效能提升36计-敏捷协作篇:束水攻沙,持续加快产品交付速度
385 0
《研发效能提升36计-敏捷协作篇:束水攻沙,持续加快产品交付速度》电子版地址
《研发效能提升36计-敏捷协作篇:设定北极星指标,数据驱动效能改进》电子版地址
研发效能提升36计-敏捷协作篇:设定北极星指标,数据驱动效能改进
167 0
《研发效能提升36计-敏捷协作篇:设定北极星指标,数据驱动效能改进》电子版地址
下一篇
无影云桌面