Devops 学习笔记

简介: DevOps 希望做到的是软件产品交付过程中 IT 工具链的打通,使得各个团队减少时间损 耗,更加高效地协同工作。

DevOps

一、DevOps概念

1、DevOps是什么

Development和Operations的组合词;

网络异常,图片无法展示
|

DevOps: Development 和 Operations 的组合

  • DevOps 看作开发(软件工程)、技术运营和质量保障(QA)三者的交集。
  • 突出重视软件开发人员和运维人员的沟通合作,通过自动化流程来使得软件构建、测试、 发布更加快捷、频繁和可靠。
  • DevOps 希望做到的是软件产品交付过程中 IT 工具链的打通,使得各个团队减少时间损 耗,更加高效地协同工作。专家们总结出了下面这个 DevOps 能力图,良好的闭环可以大大增加整体的出。

2、CICD是什么

持续集成 持续部署

1、基本理念

1、持续集成(Continuous Integration)

持续集成是指软件个人研发的部分向软件整体部分交付,频繁进行集成以便更快地发现 其中的错误。“持续集成”源自于极限编程(XP),是 XP 最初的 12 种实践之一。

CI 需要具备这些:

全面的自动化测试。这是实践持续集成&持续部署的基础,同时,选择合适的 自动化测试工具也极其重要;

灵活的基础设施。容器,虚拟机的存在让开发人员和 QA 人员不必再大费周折;

版本控制工具。如 Git,CVS,SVN 等;

自动化的构建和软件发布流程的工具,如 Jenkins,flow.ci;

反馈机制。如构建/测试的失败,可以快速地反馈到相关负责人,以尽快解决达到一个更稳定的版本。

2、持续交付(Continuous Delivery)

持续交付在持续集成的基础上,将集成后的代码部署到更贴近真实运行环境的「类生产环境」(production-like environments)中。持续交付优先于整个产品生命周期的软件部署,建立 在高水平自动化持续集成之上。

灰度发布。

持续交付和持续集成的优点非常相似:

快速发布。能够应对业务需求,并更快地实现软件价值。

编码->测试->上线->交付的频繁迭代周期缩短,同时获得迅速反馈;

高质量的软件发布标准。整个交付过程标准化、可重复、可靠,

整个交付过程进度可视化,方便团队人员了解项目成熟度;

更先进的团队协作方式。从需求分析、产品的用户体验到交互 设计、开发、测试、运维等角色密切协作,相比于传统的瀑布式软件团队,更少浪费。

3、持续部署(Continuous Deployment)

持续部署是指当交付的代码通过评审之后,自动部署到生产环境中。持续部署是持续交付的最高阶段。

这意味着,所有通过了一系列的自动化测试的改动都将自动部署到生产环境。它也可以被称为“Continuous Release”。

“开发人员提交代码,持续集成服务器获取代码,执行单元测试,根据测试结果决定是否部署到预演环境,如果成功部署到预演环境,进行整体验收测试,如果测试通过,自动部署到产品环境,全程自动化高效运转。

持续部署主要好处是,可以相对独立地部署新的功能,并能快速地收集真实用户的反馈。

“You build it, you run it”,这是 Amazon 一年可以完成 5000 万次部署, 平均每个工程师每天部署超过 50 次的核心秘籍。

5000/365 = 15 万次

开发人员代码敲完。可以release的时候,提交代码, 剩下的全部一站式自动搞定

2、最佳实践

1、内循环与外循环

  • 内循环(开发要做的事情):
  • 编码、测试、运行、debug、提交
  • 代码推送到代码仓库(svn,git)【代码回滚】
  • 进行CI过程(持续集成),万物皆可容器化。打包成一个Docker镜像
  • 镜像推送到镜像仓库
  • 测试
  • 持续部署流程(CD),拿到之前的镜像,进行CD。怎么放到各种环境。uat、test、prod
  • 外循环()
  • 运行时监控生产环境的管理
  • 监控
  • 线上反馈到开发
  • 来到内循环

MVC:Model(bean,entity,to,po......) View(thymeleaf、前后分离....) Controller(xxxxx)

2、实践流程

  • 新功能,bug修复。
  • 创建分支来做这个事情(开发功能)
  • 提交分支的代码改变
  • 进入持续集成流程
  • 当前分支代码功能性自动化构建和测试
  • 自动工具推送这次提交
  • 自动化集成测试
  • 可以看到效果
  • 人工确认此次功能是否发布到生产环境
  • 代码合并。
  • 进入持续部署流程
  • 构建、测试、发布......

3、CICD LandSpace

二、Jenkins

/var/jenkins_home jenkins的家目录

包含了jenkins的所有配置。

以后要注意备份 /var/jenkins_home (以文件的方式固化的)

Jenkins镜像用 https://hub.docker.com/r/jenkinsci/jenkins/

驱动我们整个CICD过程的很多工具

1、Jenkins安装

docker run \

 -u root \

 --rm \

 -d \

 -p 8080:8080 \

 -p 50000:50000 \

 -v jenkins-data:/var/jenkins_home \

 -v /var/run/docker.sock:/var/run/docker.sock \

 jenkinsci/blueocean

# 查看挂载目录

docker volume ls

# 查看挂载数据目录具体信息

docker volume inspect jenkins-data

# 查看密码

cat /var/lib/docker/volumes/jenkins-data/_data/secrets/initialAdminPassword

#自己构建镜像 RUN的时候就把时区设置好

#如果是别人的镜像,docker hub,UTC; 容器运行时 , -v/etc/localtime:/etc/localtime:ro

jenkinsci/jenkins 是没有 blueocean插件的,得自己装

jenkinsci/blueocean:带了的

#/var/run/docker.sock 表示Docker守护程序通过其监听的基于Unix的套接字。 该映射允许 jenkinsci/blueocean 容器与Docker守护进程通信, 如果 jenkinsci/blueocean 容器需要实例化 其他Docker容器,则该守护进程是必需的。 如果运行声明式管道,其语法包含agent部分用 docker;例 如, agent { docker { ... } } 此选项是必需的。

#如果你的jenkins 安装插件装不上。使用这个镜像【 registry.cn- qingdao.aliyuncs.com/lfy/jenkins:plugins-blueocean 】默认访问账号/密码是 【admin/admin】

安装推荐插件,并配置用户

2、Jenkins实战

代码在本地修改----提交到远程gitee----触发jenkins整个自动化构建流程(打包,测试,发布,部署)

1、准备一个git项目进行测试

我们以gitee为例,github可能太慢了。需要idea安装gitee插件。或者自己熟悉手动命令也行。

步骤:

  • 1、idea创建Spring Boot项目
  • 2、VCS - 创建git 仓库
  • 3、gitee创建一个空仓库,示例为public
  • 4、idea提交内容到gitee
  • 5、开发项目基本功能,并在项目中创建一个Jenkinsfile文件
  • 6、创建一个名为 devops-java-demo的流水线项目,使用项目自己的流水线

Jenkins的工作流程

1、先定义一个流水线项目,指定项目的git位置

  • 流水线启动
  • 1、先去git位置自动拉取代码
  • 2、解析拉取代码里面的Jenkinsfile文件
  • 3、按照Jenkinsfile指定的流水线开始加工项目

Jenkins重要的点

0、jenkins的家目录 /var/jenkins_home 已经被我们docker外部挂载了 ;

/var/lib/docker/volumes/jenkins-data/_data

1、WORKSPACE(工作空间)=/var/jenkins_home/workspace/java-devops-demo

  • 每一个流水线项目,占用一个文件夹位置
  • BUILD_NUMBER=5;当前第几次构建
  • WORKSPACE_TMP(临时目录)=/var/jenkins_home/workspace/java-devops-demo@tmp

JOB_URL=http://139.198.9.163:8080/job/java-devops-demo/

2、常用的环境如果没有,jenkins配置环境一大堆操作

3、jenkins_url : http://139.198.27.103:8080/

2、远程构建触发

期望效果: 远程的github代码提交了,jenkins流水线自动触发构建。

实现流程:

1、保证jenkins所在主机能被远程访问

2、jenkins中远程触发需要权限,我们应该使用用户进行授权

3、配置gitee/github,webhook进行触发

#远程构建即使配置了github 的webhook,默认会403.我们应该使用用户进行授权

1、创建一个用户

2、一定随便登陆激活一次

3、生成一个apitoken

http://leifengyang:113620edce6200b9c78ecadb26e9cf122e@139.198.186.134:8080/job/dev ops-java-demo/build?token=leifengyang

远程触发: JENKINS_URL /job/simple-java-maven-app/build?token= TOKEN_NAME 请求即可

6、流水线语法

1、基础格式

pipeline {

   agent any environment {

       CC = 'clang'

   }

   stages {

       stage('Example') {

           steps {

               sh 'printenv'sh 'echo $CC'

           }

       }

   }

}

2、环境变量
3、密钥管理
4、自定义agent

//需要安装docker、docker pipeline插件

pipeline {

   agent none stages {

       stage('Example Build') {

           agent {

               docker 'maven:3-alpine'

               //args 是指定 docker run 的所有指令

               args '-v /var/jenkins_home/maven/.m2:/root/.m2'

           }

           steps {

               echo 'Hello, Maven'sh 'mvn --version'

           }

       }

       stage('Example Test') {

           agent {

               docker 'openjdk:8-jre'

           }

           steps {

               echo 'Hello, JDK'sh 'java -version'

           }

       }

   }

}

配置 Maven 加速

Linux 上配置

cd /var/lib/docker/volumes/jenkins-data/_data/

mkdir -p appconfig/maven

cd appconfig/maven

vim settings.xml

# 将一下内容复制到文件内

<?xml version="1.0" encoding="UTF-8"?>

<settings xmlns="http://maven.apache.org/SETTINGS/1.0.0"

         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"

         xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.0.0 http://maven.apache.org/xsd/settings-1.0.0.xsd">

<!-- .m2 是所有 jar 的地方 -->

<localRepository>${user.home}/.m2</localRepository>

 <pluginGroups>

 </pluginGroups>

 <proxies>

 </proxies>

 

 <servers>

 

 </servers>

 

<mirrors>

   <mirror>

       <id>nexus-aliyun</id>

       <mirrorOf>*</mirrorOf>

       <name>Nexus aliyun</name>

       <url>https://maven.aliyun.com/repository/public</url>

   </mirror>

</mirrors>

 <profiles>

 

 </profiles>

 

</settings>

5、参数化
6、条件表达式
7、修改jenkins插件源

http://mirror.xmission.com/jenkins/updates/update-center.json

jenkins插件中心的插件;

8、推荐安装的插件
  • Docker Pipeline && Docker
  • 安装Docker Pipeline会自动安装docker相关的。这个允许我们自定义agent使用docker环境.
  • Git Parameter
  • 解析git参数,允许我们选择分支进行构建·
  • Active Choices
  • 可以做到参数的级联选择.
  • Generic Webhook Trigger
  • 通用的webhook触发器,构建更强大的webhook功能.
  • Role-based Authorization Strategy
  • RBAC权限指定
  • List Git Branches Parameter
  • 列出分支参数
  • Build With Parameters
  • 基于自定义参数构建

三、Jenkins On Docker

四、Jenkins On Kubernetes


相关文章
|
jenkins 持续交付 开发工具
Python学习笔记_Devops_Day05
Python学习笔记_Devops_Day05
|
持续交付 开发工具 数据安全/隐私保护
Python学习笔记_Devops_Day04
Python学习笔记_Devops_Day04
|
JSON JavaScript 前端开发
Python学习笔记_Devops_Day02
Python学习笔记_Devops_Day02
|
关系型数据库 API PHP
Python学习笔记_Devops_Day03
Python学习笔记_Devops_Day03
|
存储 网络安全 Python
Python学习笔记_Devops_Day01
Python学习笔记_Devops_Day01
|
缓存 运维 Cloud Native
案例1:云效携手 ACK 助力卡上海博卡 DevOps 转型|学习笔记
快速学习案例1:云效携手 ACK 助力卡上海博卡 DevOps 转型
238 1
案例1:云效携手 ACK 助力卡上海博卡 DevOps 转型|学习笔记
|
Kubernetes 监控 Cloud Native
工具篇:云效云原生 DevOps 解决方案(一)|学习笔记
快速学习工具篇:云效云原生 DevOps 解决方案(一)
336 0
工具篇:云效云原生 DevOps 解决方案(一)|学习笔记
|
缓存 运维 Kubernetes
案例1:云效携手 ACK 助力上海博卡 DevOps 转型 | 学习笔记
快速学习案例1:云效携手 ACK 助力上海博卡 DevOps 转型
案例1:云效携手 ACK 助力上海博卡 DevOps 转型 | 学习笔记
|
运维 Kubernetes Cloud Native
工具篇:云原生 DevOps 解决方案 | 学习笔记
快速学习工具篇:云原生 DevOps 解决方案
工具篇:云原生 DevOps 解决方案 | 学习笔记
|
jenkins Devops 持续交付
如何基于 JenKins 实现 DevOps|学习笔记
快速学习如何基于 JenKins 实现 DevOps