从零开始搭建Jenkins+Docker自动化集成环境

简介:

作者:林杰,浙江大学软件学院硕士研究生,2016年加入网易蜂巢,对Docker容器技术有浓厚兴趣,并在使用容器技术实践微服务架构方面有一定经验。

 

网易蜂巢团队:为企业提供专业容器云平台,深度整合IaaS、PaaS及容器技术,提供弹性计算、DevOps工具链、微服务基础设施等服务,帮助企业解决IT、架构及运维等问题,使企业更聚焦于业务,是新一代的云计算平台。

 

本文只简单标记下大概的步骤,具体搭建各个部分的细节,还请自行搜索。第一、二部分只是对Jenkins和Docker的简单介绍,熟悉的同学请直接跳到第三部分。

 

一、关于Jenkins

 

>>>>
 

Jenkins简介

 

Jenkins可以帮你构建一个自动化的持续集成环境,你可以使用它来“自动化”编译、打包、分发部署你的应用,它兼容ant、maven、gradle等多种第三方构建工具,同时跟svn、git能无缝集成,也支持直接与知名源代码托管网站,比如github、bitbucket直接集成。

 

>>>>
 

Jenkins安装

 

Jenkins的安装十分简单,你可以从官网http://mirrors.jenkins-ci.org/war/latest/ 直接下载war包,使用java -jar jenkins.war,或者放到Tomcat类似的容器里运行都可以(JDK版本建议使用1.6以上来运行)。Jenkins默认启动端口是8080,请注意端口占用。另外,Jenkins文件其实都在~/.jenkins目录下,运行过程中你可以在这里找到你运行过的job和相应的日志文件。

 

首次安装,可以把插件都安装上,自己都试试看。如果因为网络原因,插件下载失败的,可以从失败详情中把地址拷出来,下载后,以上传hpi文件的方式安装。

 

>>>>
 

系统设置

 

安装完成的第一步,先到Blobal Tool Configuration中配置相关的环境,如JDK、MAVEN、GIT等,相应的路径设置都是设置Jenkins这台机子本地的目录。建议把所有的配置都完善下,否则日后的运行中可能会出现一些小问题,可以试下点击?查看帮助,还是很有用的。

 

>>>>
 

Jenkins集群配置

 

集群配置也十分简单,就是添加slave节点的过程。点击系统管理->管理节点->新建节点,各个配置后面都有详细的帮助说明的。在启动方法这里推荐使用 Launch slave agents on UNIX machines via SSH,这样master节点会主动使用SSH登陆到slave节点上,并运行java -jar slave.jar,这样一个slave节点就添加完成了。

 

>>>>
 

构建Job

 

其实到这一步,就是jenkins的常规流程了,你可以参照创建Job选项的界面的各个配置,制定你构建计划,或者我们直接使用脚本来完成我们的构建操作(建议)选择构建Execute shell,文章末尾会附上一个完整项目的shell构建流程。

 

>>>>
 

Pipeline

 

Pipeline字面意思就是流水线,很好用的Jenkins的一个插件,将很多步骤按顺序排列好,做完一个执行下一个。真实的工作环境有很多job,比如先编译,然后执行静态代码检查、单元测试、然后部署服务器、服务器重启、进行ui测试等。我们需要对这些job进行一些设置将它们的上下游关系配置好。

 

这时候Pipeline就派上用场了。在Jenkins主页点击新建视图,然后选择Build Pipeline View,然后填写Select Initial Job,构建后的操作可以选择其他的Job,以此类推,这样一个流水线就完成了。Pipeline提供视图界面,你可以在视图上形象地看到整个构建计划的执行流程和完成度。

 

二、关于Docker

 

>>>>
 

Docker 简介

 

Docker现在是Github社区最火的项目之一,Docker是个容器,或许你听过lxc,你可能知道Tomcat这个Web容器,容器是什么概念,意会就好。问个问题,你想在一台机子上运行一个java6的应用,又想运行一个java8应用怎么办;或者说你开发出一个软件,mac版、windows版本,我都想运行,怎么办?装虚拟机?不不不,虚拟机太浪费资源了,Docker这时候就派上用场了,在电脑上,你可以同时装一个mac的容器和windows的容器哦。一个虚拟机可能会消耗2到3G的内存,一个容器仅仅只消耗几百M的资源哦。

 

>>>>
 

Docker 安装

 

具体安装细节,可以参照https://docs.docker.com,文档说得很清楚了。 Docker原本是开发在Linux上的,Windows下是采用Docker machine的方式,起一个虚拟机在虚拟机里面跑Docker。本来呢Mac也是采用虚拟机的方式,后来有了Docker for mac,采用HyperKit,一种更轻量级的虚拟化方式。当然,你还是可以用Docker machine的方式运行。

 

>>>>
 

Docker 基础

 

搞清楚两个概念,容器与镜像。打个比方吧。装机,容器就是装完成后的系统,镜像就是ISO安装盘,系统镜像。

 

作为一个合格的程序员,你一定用过Git的吧,pull,commit,push……写代码过程就是这样,先拉取代码pull,然后是在一个基础的文本上不断地增加commit,加积木一样,一层层叠加,累积上去,最后再push上去。没错Docker就是采用这种形式。

 

简单介绍下Docker命令:

 

  • Docker version / Docker info 查看基本信息,遇到使用问题或者BUG,可以到社区里报告,记得带着这些信息哈。

  • Docker pull 拉取镜像。

  • Docker run 从镜像创建一个容器并运行指定的命令常用参数-i -d,建议用—-name命名这个容器,命名后可以使用容器名访问这个容器。

  • Docker attach(不推荐使用)。

  • Docker exec -ti CONTAINER /bin/bash 连接到容器上运行bash

  • Docker logs CONTAINER 查看日志,如run命令后的运行结果,Docker logs -f 查看实时的日志。

  • Docker kill 杀死Docker容器进程,你可以使用Docker kill $(Docker ps -aq)杀死所有的Docker进程,后者打印出所有的容器的容器id(包括正在运行的,和没有运行的)。

  • Docker rm CONTAINER 删除一个容器,记得要先停止正在运行的容器,再去删除它。

  • Docker exec -it  bash -c 'cat > /path/to/container/file' < /path/to/host/file/容器外向容器内复制文件(也可以用挂载的形式哦)。

  • Docker commit -a “mike” -m “镜像的一些改动” CONTAINER 当你在容器内做了某种操作后,如增加了一个文件,你可以用这个命令把修改提交,重新打包为镜像。

  • Docker push 推送镜像。。到这里是不是觉得跟Git的模式已经有点像了呢。

  • Docker history IMAGES 查看镜像的修改历史。

  • Docker ps -a | grep "Exited" | awk '{print $1 }'| xargs Docker rm 删除exited的容器。

  • Docker rmi $(Docker images | awk '/^ / {print $3}') 删除tag为NONE的容器。

 

>>>>
 

Dockerfile基础

 

Dokcerfile,是的,你还是要稍微掌握下Dockerfile的写法。

 

  • From 每个Dockerfile镜像的构建都会基于一个基础镜像,这是你一来的基础镜像name:tag,git。

  • MAINTAINER (不用记,作者签名)。

  • ENV 配置环境变量。

  • COPY 复制本地。

  • EXPOSE 暴露容器的端口。

  • WORKDIR 后续命令的执行路径。

  • RUN important!,执行相应的命令,这一步是在容器构建这一步中执行的命令,一般用作安装软件,操作的结果是持久化在容器里面保存下来的。

    Tips:每次执行RUN的时候都是再默认路径执行的,如果要到固定路径下执行命令请在之前加WORKDIR,或者使用RUN (cd workpath && echo "mike")这样把cd命令跟相应的执行命令用括号括起来。

  • ENTRYPOINT 容器启动后执行的命令。

 

三、Jenkins+Docker自动化集成环境搭建

 

这一步,我们把Jenkins和Docker结合起来。Jenkins本身版本比较老,虽然插件多,但许多插件没有人在维护更新,环境本身还是比较旧的,且各式各样的工程如果都用插件来安装,这样的插件不一定满足要求,所以建议配合Docker来搭建测试环境。

 

如果说好处的话,还有比较激进的一段话(建议略过哈):

 

我们把一个工程代码开发后的测试流程简单分为编译、部署(事实上可能更多,如项目代码有多个工程,工程间有相互依赖)。如果我们想在一个slave节点上既运行Java7应用,又运行Java8应用,哦,Jenkins有相应的插件解决?那如果是NodeJs4应用和NodeJs5应用呢?JAVA升级到9了,插件没更新?像一些复杂的工程,如JDK自身的编译、如Docker项目的编译,我需要安装各种依赖,就可能会污染全局空间,这时候就建议把编译过程放到容器里,或者说我要在Linux上编译部署一个Windows应用,在一个Windows容器里部署就可以了。

 

再比如,如果我们用omad部署web应用可能要考虑端口冲突,部在Docker容器里,工程代码的端口,都不用变。还有,容器作测试环境的话,如果要保证线上,线下环境一致,甚至可以复制一个线下容器,直接在线上跑容器的。还有......

 

大致的想法是,我们用Jenkins来做节点控制、版本管理、流程设置、触发Job,用Docker来搭建编译部署环境。把这一切连接起来的就是流程脚本和Dockerfile的编写。

 

实现细节可以参照下面的示例。

 

触发条件:由Jenkins控制,如设置定时执行,或者github中的每一个commit,或者每一个PR执行一次。

 

构建流程:各个环节,Job,之间用Pipeline来实现整个构建流程的控制。

 

构建Job:这里,我觉得可以分为两种情况,一种是把拉取代码的过程和构建编译环境的过程都放到Dockfile里面,这适用于比较复杂的编译环境,如Docker本身的编译需要安装许多的依赖,对依赖的版本都有不同的要求,还是建议把编译环境放在容器的里面。另一种情况,为求省事方便,如java工程,编译一般用maven等构建工具来完成的话,大可以放在外面,只是把运行环境搬到Docker容器里。

 

Execute shell:

 

\

\

 

Dockerfile:

 

配置基础运行环境。

 

如果需要编译,配置编译环境,可以在容器内拉取代码,执行编译。

 

web应用暴露端口。

 

配置应用启动命令。

 

\

\

 

另外,容器里你都可以配置成8080端口,暴露8080端口,只要再Docker run -p *:8080,运行时改下相应的端口映射就可以了。


本文来自云栖社区合作伙伴"DBAplus",原文发布时间:2016-09-05

目录
相关文章
|
存储 Kubernetes 监控
Docker与Kubernetes集成挑战及方案
面对这些挑战,并不存在一键解决方案。如同搭建灌溉系统需要考虑多种因素,集成Docker与Kubernetes也需要深思熟虑的规划、相当的技术知识和不断的调试。只有这样,才能建立起一个稳定、健康、高效的Docker-Kubernetes生态,让你的应用像花园中的植物一样繁荣生长。
536 63
|
人工智能 安全 Shell
Jupyter MCP服务器部署实战:AI模型与Python环境无缝集成教程
Jupyter MCP服务器基于模型上下文协议(MCP),实现大型语言模型与Jupyter环境的无缝集成。它通过标准化接口,让AI模型安全访问和操作Jupyter核心组件,如内核、文件系统和终端。本文深入解析其技术架构、功能特性及部署方法。MCP服务器解决了传统AI模型缺乏实时上下文感知的问题,支持代码执行、变量状态获取、文件管理等功能,提升编程效率。同时,严格的权限控制确保了安全性。作为智能化交互工具,Jupyter MCP为动态计算环境与AI模型之间搭建了高效桥梁。
1014 2
Jupyter MCP服务器部署实战:AI模型与Python环境无缝集成教程
|
安全 持续交付 云计算
课时5:阿里云容器服务:最原生的集成Docker和云服务
阿里云容器服务以服务化形式构建容器基础设施,大幅提升开发效率,简化应用部署流程。通过Docker容器和DevOps工具(如Jenkins),实现自动化部署与迭代,优化企业内部复杂部署问题。该服务支持GPU调度、混合云架构无缝迁移,并与阿里云产品体系无缝集成,提供安全防护、网络负载均衡等多重功能支持。凭借微服务架构,帮助企业突破业务瓶颈,提高资源利用率,轻松应对海量流量。
649 0
课时5:阿里云容器服务:最原生的集成Docker和云服务
|
数据库 Docker 容器
Docker在现代软件开发中扮演着重要角色,通过Dockerfile自动化构建Docker镜像,实现高效、可重复的构建过程。
Docker在现代软件开发中扮演着重要角色,通过Dockerfile自动化构建Docker镜像,实现高效、可重复的构建过程。Dockerfile定义了构建镜像所需的所有指令,包括基础镜像选择、软件安装、文件复制等,极大提高了开发和部署的灵活性与一致性。掌握Dockerfile的编写,对于提升软件开发效率和环境管理具有重要意义。
347 10
|
关系型数据库 MySQL Java
【Docker最新版教程】一文带你快速入门Docker常见用法,实现容器编排和自动化部署上线项目
Docker快速入门到项目部署,MySQL部署+Nginx部署+docker自定义镜像+docker网络+DockerCompose项目实战一文搞定!
2550 10
|
运维 监控 持续交付
云计算环境下的运维自动化实践
本文探讨了在云计算环境下实施运维自动化的必要性、挑战及解决方案,重点介绍了如何利用现代技术工具实现高效的云资源管理和监控。通过具体案例分析,展示了自动化运维在提升系统稳定性、降低人力成本方面的优势。
|
存储 Prometheus 运维
在云原生环境中,阿里云ARMS与Prometheus的集成提供了强大的应用实时监控解决方案
在云原生环境中,阿里云ARMS与Prometheus的集成提供了强大的应用实时监控解决方案。该集成结合了ARMS的基础设施监控能力和Prometheus的灵活配置及社区支持,实现了全面、精准的系统状态、性能和错误监控,提升了应用的稳定性和管理效率。通过统一的数据视图和高级查询功能,帮助企业有效应对云原生挑战,促进业务的持续发展。
523 3
|
运维 监控 jenkins
运维自动化实战:利用Jenkins构建高效CI/CD流程
【10月更文挑战第18天】运维自动化实战:利用Jenkins构建高效CI/CD流程
|
Kubernetes 持续交付 Docker
探索DevOps实践:利用Docker与Kubernetes实现微服务架构的自动化部署
【10月更文挑战第18天】探索DevOps实践:利用Docker与Kubernetes实现微服务架构的自动化部署
664 2
|
运维 jenkins 持续交付
自动化部署的魅力:如何用Jenkins和Docker简化运维工作
【10月更文挑战第7天】在现代软件开发周期中,快速且高效的部署是至关重要的。本文将引导你理解如何使用Jenkins和Docker实现自动化部署,从而简化运维流程。我们将从基础概念开始,逐步深入到实战操作,让你轻松掌握这一强大的工具组合。通过这篇文章,你将学会如何利用这些工具来提升你的工作效率,并减少人为错误的可能性。