打造云上代码交付链,CodePipeline实践分享

简介: 在2017在线技术峰会——首届阿里巴巴研发效能嘉年华上,来自阿里云飞天研发部的工程师莫源分享了《打造云上代码交付链,CodePipeline实践分享》。他在云计算和云平台、持续集成流程、DevOps的基础上,详细分享了Alibaba Cloud CodePipeline优于Jenkins的性能和实践。

在2017在线技术峰会——首届阿里巴巴研发效能嘉年华上,来自阿里云飞天研发部的工程师莫源分享了《打造云上代码交付链,CodePipeline实践分享》。他在云计算和云平台、持续集成流程、DevOps的基础上,详细分享了Alibaba Cloud CodePipeline优于Jenkins的性能和实践。


以下内容根据直播视频整理而成。

直播视频:https://yq.aliyun.com/edu/lesson/549

PDF下载:https://yq.aliyun.com/attachment/download/?id=1844


云计算和云平台

云计算领域和其他领域是非常相似的,当一个领域越来越成熟的时候,发展方向会朝着精细化发展。比如,ofo解决了如何脱离城市公共交通之外解决最后一公里的问题。云计算也越来越成熟,上云解决了基础设施交付的问题,但是对于开发者而言还远远不够,云原生架构设计与应用成为了云计算的“最后一公里”问题。

11a1947441bafaab2812eb6b218beb2719b9063e

上图是NETFLAG公司定义的Cloud Native架构设计图。主要分为三个部分:Framework(左边),推荐使用微服务架构;Container Runtime(右边),建议容器化、资源生命周期自动化;Infrastructure Automation(中间),表达了基础设施即代码的思想,以及配管运维自动化。

7b999ce02bf9691f619daaa4c65af2ce43956c33

把刚才的图转换一下,可以总结为四个要点:DevOps、Continuous Delivery、Microservices、Containers。但对于开发者来讲,微服务和容器并不是必须的,而是与自己的模型、编程框架相关的,而DevOps和持续集成则是通用的模型。作为一个云计算厂商,我们要解决的是开发者如何在通用模型之下解决自己的问题。

766c507e0f1349cead19f7bbe964ef83dd9a0caf

上图大家都比较熟悉,讲述了云平台的SaaS、PaaS、IaaS层。最底层是IaaS层,提供了资源,PaaS层提供了能力,而SaaS层提供了服务。金字塔最底层是最扎实的,越往上越小,而DevOps是塔尖。所以,只有最底层基础设施的环境变得十分稳固、厚重的时候,才能保证最上层的DevOps有一个更高效的能力。

持续集成流程

a8abb179752684198f3445a8960709b756f51136

常见的DevOps流程分为代码开发,提交代码到代码仓库,通过web hook触发,由持续集成系统分别部署到测试环境、预发环境、正式环境。

540bfaa223daa75378eed68c38cfe84fe70e80d5

上图是基于容器的持续集成流程图。和前图的区别在于,在持续集成系统上层有一个镜像仓库,持续集成系统会把镜像推到镜像仓库,部署的时候由部署环境拉取镜像进行部署。

DevOps

DevOps不是让你成为全能忍者,而是消除“等待”与“浪费”。传统的瀑布流开发模型分为很多阶段:需求分析、设计、实现、验证、运维,这个过程中我们会等待基础架构的设计、应用程序部署、其他团队或者审核流程。而DevOps可以帮助消除不必要的流程、特性、人工、返工。

ed351d965be105640ba7dc8f609335f736b330ed

DevOps核心思想是分而治之,连续集成,快速交付。以前软件开发、交付的生命周期很长,以月或者半年为单位,现在将生命周期进行切分,变成以周或者天为单位。为什么以前没有做到?因为以前很难做到整个流程的自动化,比如基础设施自动化、交付自动化等,而现在云计算给了我们这个能力。Cloud Native、Microservices、Docker、Serverless是和DevOps结合最紧密的四个领域。这些领域展现了软件架构的变革,软件的架构变革带来了灵活性、稳定性、功能性也带来了技术成本。比如,Docker解决了如何快速交付的流程但是解决不了学习Docker的成本、运维的成本。DevOps解决的是如何将上述四个领域的技术成本屏蔽,通过自动化的方式把很多技术的问题变成按钮点击的问题。所以,DevOps的本身不是一个技术问题,但是技术的变革需要DevOps来填平带来的技术成本。DevOps实现是一个适配器,封装了本地开发与远程交付之间的实现。

0fb024e4e2c498c61bf993c7efeb13f20e441f36

DevOps里最核心的是持续集成服务器,它是交付流程的发动机。用的最多的持续集成服务器是Jenkins,每个阶段Jenkins都可以和很多系统集成,但是它也存在一些问题:架构陈旧,性能低下,单个Jenkins在并发1000个job或者250个slave的时候就会出现很严重的性能问题;安全漏洞很多,Master、插件都有很多漏洞;独立运维成本很高,Jenkins本身是Java的应用,但是还涉及到slave pool、镜像、配置插件等;缺乏完善的权限模型,使用权限模型的时候没法和namespace脱开;通用的DevOps模型需要更多的集成;插件太多导致缺乏最佳实践经验。

Alibaba Cloud CodePipeline

Alibaba Cloud CodePipeline是一个SaaS化的持续集成引擎。通过可视化的配置,简单快捷地实现持续集成与持续交付的流程,完全兼容Jenkins,并且在Jenkins上做了很多增强。

b5c4791c68f9d2ea97a8ced27c414cfd2c115511

上图是Alibaba Cloud CodePipeline的基础结构图。CodePipeline Service是任务调度系统,它会把任务分配到任务沙箱式运行时环境资源池,资源池是弹性伸缩的,开发者使用CodePipeline的时候无须担心自己的任务有多少、并发有多少。构建任务完成、代码下发好之后会发布一条部署命令,部署命令是由Deploy Service来完成的,它是通过反打方式实现的,好处是无须担心用户的网络环境。右侧是部署环境,支持ECS、HPC、VM、阿里云的Container Service。

SaaS化持续交付引擎

SaaS化的好处是:无需运维,开箱即用,使用云账号登陆即可拥有免费使用额度,独立部署支持与企业现有的LDAP集成,内置多种常用必备插件,无需二次安装;资源按需使用,动态生成,按使时长和资源付费,无需担心资源容量(公测不收费),资源动态使用动态销毁,无需担心代码、构建物外泄,资源无需运维,平台资源池统一维护,资源秒级生成、秒级销毁。

全量兼容Jenkins插件

CodePipeline对Jenkins插件进行了安全加固,所有开放出来的插件都经过安全加固,加固后的插件不定期的反馈给社区。并且根据开发者需求不断开放Jenkins插件满足开发者的需求。开发者可以根据需求提交开放申请,内置的Best Practise会提供更多场景的插件组合的使用方案,开放的插件的能力会在阿里云的场景下有更多的集成。

阿里云产品生态无缝集成

集成OSS、容器Hub存储构建物,OSS提供构建物存储,Hub提供镜像存储,未来考虑支持(Nas等等)。支持多种部署环境,包括ECS支持标准应用部署、容器支持容器化部署、EGS、ESS、EWS等等。

多种部署方式支持

支持跨Region部署(经典、VPC),具备IDC、公有云、跨云混合部署的能力,VPC网络采用反向通道的方式,无需在安全组上打洞。支持多种部署方式,具备ECS、容器服务混合部署,支持不同部署环境跨Region部署,支持部分部署模型的无宕机发布。支持全量的部署环境,公测版本支持Java、Node.js的环境,预计短期开放PHP、Python、Go、C++等语言。

内置最佳实践

向导方式内置语言的部署最佳实践,公测支持Java与Node.js,支持用户自定义最佳实践(待开放)。社区、论坛提供最佳实践的文章与指南,提供基础功能的使用指南,提供标准流程的最佳实践指南,提供高级功能扩展使用实践。

Reference

Terraform阿里云官方github仓库:https://github.com/alibaba/terraform-provider

Packer阿里云官方github仓库:https://github.com/alibaba/packer-provider

阿里云针对于开源DevOps工具的github仓库总入口链接:https://github.com/alibaba/opstools

阿里云DevOps系列文章与Jenkins持续集成解决方案:https://github.com/AliyunContainerService/DevOps
相关文章
|
6月前
|
项目管理 微服务
云效常见问题之将多个微服务应用集成到一次研发流程中发布上线如何解决
云效(CloudEfficiency)是阿里云提供的一套软件研发效能平台,旨在通过工程效能、项目管理、质量保障等工具与服务,帮助企业提高软件研发的效率和质量。本合集是云效使用中可能遇到的一些常见问题及其答案的汇总。
114 0
|
存储 Prometheus Kubernetes
阿里 sealer 是如何实现整个集群一键交付的?
顾名思义,和操作系统 .iso 镜像或 Docker 镜像类似,集群镜像是用一定的技术手段把整个集群的所有文件以一定格式打成的一个资源包。
1213 0
阿里 sealer 是如何实现整个集群一键交付的?
|
运维 容灾 云计算
《云上容灾交付服务白皮书》——5.交付典型案例——5.2 项目交付内容
《云上容灾交付服务白皮书》——5.交付典型案例——5.2 项目交付内容
128 0
|
容灾
《云上容灾交付服务白皮书》——5.交付典型案例——5.4 交付过程工具化
《云上容灾交付服务白皮书》——5.交付典型案例——5.4 交付过程工具化
117 0
|
运维 容灾 架构师
《云上容灾交付服务白皮书》——5.交付典型案例——5.3 交付流程标准化
《云上容灾交付服务白皮书》——5.交付典型案例——5.3 交付流程标准化
219 0
|
容灾
《云上容灾交付服务白皮书》——3交付标准化参考框架
《云上容灾交付服务白皮书》——3交付标准化参考框架
139 0
|
容灾 云计算
《云上容灾交付服务白皮书》——5.交付典型案例——5.1 项目背景
《云上容灾交付服务白皮书》——5.交付典型案例——5.1 项目背景
99 0
|
容灾 数据中心
《云上容灾交付服务白皮书》——3交付标准化参考框架——3.1 需求分析
《云上容灾交付服务白皮书》——3交付标准化参考框架——3.1 需求分析
128 0
|
容灾
《云上容灾交付服务白皮书》——3交付标准化参考框架——3.5 演练实施(下)
《云上容灾交付服务白皮书》——3交付标准化参考框架——3.5 演练实施(下)
105 0
|
容灾 大数据
《云上容灾交付服务白皮书》——3交付标准化参考框架——3.5 演练实施(上)
《云上容灾交付服务白皮书》——3交付标准化参考框架——3.5 演练实施(上)
127 0