Jenkins+Docker+Harbor+SpringCloud微服务持续集成自动化部署(上)

简介: Jenkins+Docker+Harbor+SpringCloud微服务持续集成自动化部署(上)

正文


1 Jenkins+Docker+SpringCloud微服务持续集成(上)


1.1 Jenkins+Docker+SpringCloud持续集成流程说明


55555.png

大致流程说明:


1)开发人员每天把代码提交到Gitlab代码仓库


2)Jenkins从Gitlab中拉取项目源码,编译并打成jar包,然后构建成Docker镜像,将镜像上传到Harbor私有仓库。


3)Jenkins发送SSH远程命令,让生产部署服务器到Harbor私有仓库拉取镜像到本地,然后创建容器。


4)最后,用户可以访问到容器


服务列表


名称 IP地址

安装软件

持续基础服务器

192.168.5.3

jenkins,JDK,Maven,Git,SonarQube,Docker,MySQL

代码托管服务器 192.168.5.4 gitlab-ce
Docker仓库服务器 192.168.5.5 Docker,Harbor
生产部署服务器 192.168.5.6 Docker


1.2 SpringCloud微服务源码概述


# 测试代码下载地址
wget https://cunqi0105-1300757323.cos.ap-shanghai.myqcloud.com/configuration-file/tensquareAdmin.zip
wget https://cunqi0105-1300757323.cos.ap-shanghai.myqcloud.com/configuration-file/tensquare_parent.zip
# 数据库文件下载
wget https://cunqi0105-1300757323.cos.ap-shanghai.myqcloud.com/configuration-file/mysql-sql.zip

项目架构:前后端分离


后端技术栈:SpringBoot+SpringCloud+SpringDataJpa(Spring全家桶)


微服务项目结构:


000000.png


tensquare_parent:父工程,存放基础配置


tensquare_common:通用工程,存放工具类


tensquare_eureka_server:SpringCloud的Eureka注册中心


tensquare_zuul:SpringCloud的网关服务


tensquare_admin_service:基础权限认证中心,负责用户认证(使用JWT认证)


tensquare_gathering:一个简单的业务模块,活动微服务相关逻辑


数据库结构:


image-20210522203821293.png


tensquare_user:用户认证数据库,存放用户账户数据。对应tensquare_admin_service微服务


tensquare_gathering:活动微服务数据库。对应tensquare_gathering微服务


微服务配置分析:


tensquare_eureka


tensquare_zuul


tensquare_admin_service


tensquare_gathering


1.3 环境准备(1)-Docker安装


详细请参考文档:Linux-Docker安装


1.4 环境准备(2)-Harbor镜像仓库安装及使用


详细请参考文档:企业级镜像仓库Harbor


1.5 微服务持续集成(1)-项目代码上传到Gitlab


在IDEA操作即可,参考之前的步骤。包括后台微服务和前端web网站代码


888.png


1.6 微服务持续集成(2)-从Gitlab拉取项目源码


1)Jenkins上创建 tenquare_back任务


8888.png


2) 创建参数化构建函数


88.png

80.png


3)生成流水线脚本


800.png

08.png


4)创建Jenkinsfile文件


008.png


//gitlab的凭证
def git_auth = "14ae86e8-c3b4-4d7d-afe1-8c23d9fed317"
//gitlab的地址
def git_url = "git@192.168.5.4:root/tensquare_bak.git"
node {
    stage('拉取代码') {
        checkout([$class: 'GitSCM', branches: [[name: "*/${branch}"]], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_url}"]]])
    }
}


5)上传代码


080.png


6)项目测试


0800.png


1.7 微服务持续集成(3)-提交到SonarQube代码审查


1) 创建参数化构建函数


11.png

111.png


2)在每个微服务项目的根目录下添加sonar-project.properties


1112.png


# must be unique in a given SonarQube instance
sonar.projectKey=项目名称
# this is the name and version displayed in the SonarQube UI. Was mandatory
prior to SonarQube 6.1.
sonar.projectName=项目名称
sonar.projectVersion=1.0
# Path is relative to the sonar-project.properties file. Replace "\" by "/" on
Windows.
# This property is optional if sonar.modules is set.
sonar.sources=.
sonar.exclusions=**/test/**,**/target/**
sonar.java.binaries=.
sonar.java.source=1.8
sonar.java.target=1.8
# sonar.java.libraries=**/target/classes/**
# Encoding of the source code. Default is default system encoding
sonar.sourceEncoding=UTF-8
3)修改Jenkinsfile构建脚本
//gitlab的凭证
def git_auth = "14ae86e8-c3b4-4d7d-afe1-8c23d9fed317"
//gitlab的地址
def git_url = "git@192.168.5.4:root/tensquare_bak.git"
// 构建版本的名称
def tag = "latest"
node {
    stage('拉取代码') {
        checkout([$class: 'GitSCM', branches: [[name: "*/${branch}"]], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_url}"]]])
    }
    stage('代码审查') {
        //定义当前Jenkins的SonarQubeScanner工具
        def scannerHome = tool 'sonarqube-scanner'
        //引用当前Jenkins SonarQube环境
        withSonarQubeEnv('sonarqube') {
            sh """
                cd ${project_name}
                ${scannerHome}/bin/sonar-scanner
            """
        }
    }
}


3)修改Jenkinsfile构建脚本


//gitlab的凭证
def git_auth = "14ae86e8-c3b4-4d7d-afe1-8c23d9fed317"
//gitlab的地址
def git_url = "git@192.168.5.4:root/tensquare_bak.git"
// 构建版本的名称
def tag = "latest"
node {
    stage('拉取代码') {
        checkout([$class: 'GitSCM', branches: [[name: "*/${branch}"]], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_url}"]]])
    }
    stage('代码审查') {
        //定义当前Jenkins的SonarQubeScanner工具
        def scannerHome = tool 'sonarqube-scanner'
        //引用当前Jenkins SonarQube环境
        withSonarQubeEnv('sonarqube') {
            sh """
                cd ${project_name}
                ${scannerHome}/bin/sonar-scanner
            """
        }
    }
}

22.png


4)项目测试


223.png

224.png


1.8 微服务持续集成(4)-使用Dockerfile编译、生成镜像


利用dockerfile-maven-plugin插件构建Docker镜像 1)在每个微服务项目的pom.xml加入dockerfile-maven-plugin插件(依赖父工程tensquare_common,不需要添加)


<plugin>
    <groupId>com.spotify</groupId>
    <artifactId>dockerfile-maven-plugin</artifactId>
    <version>1.3.6</version>
    <configuration>
        <repository>${project.artifactId}</repository>
        <buildArgs>
            <JAR_FILE>target/${project.build.finalName}.jar</JAR_FILE>
        </buildArgs>
    </configuration>
</plugin>

2)在每个微服务项目根目录下建立Dockerfile文件(依赖父工程tensquare_common,不需要添加)


#FROM java:8
FROM openjdk:8-jdk-alpine
ARG JAR_FILE
COPY ${JAR_FILE} app.jar
EXPOSE 10086
ENTRYPOINT ["java","-jar","/app.jar"]


3)修改Jenkinsfile构建脚本


//gitlab的凭证
def git_auth = "14ae86e8-c3b4-4d7d-afe1-8c23d9fed317"
//gitlab的地址
def git_url = "git@192.168.5.4:root/tensquare_bak.git"
// 构建版本的名称
def tag = "latest"
node {
   stage('拉取代码') {
       checkout([$class: 'GitSCM', branches: [[name: "*/${branch}"]], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_url}"]]])
   }
 stage('代码审查') {
  //定义当前Jenkins的SonarQubeScanner工具
  def scannerHome = tool 'sonarqube-scanner'
  //引用当前Jenkins SonarQube环境
  withSonarQubeEnv('sonarqube') {
   sh """
    cd ${project_name}
    ${scannerHome}/bin/sonar-scanner
   """
  }
 }
 stage('编译,构建镜像') {
  //定义镜像名称
  def imageName = "${project_name}:${tag}"
  //编译,安装公共工程
  sh "mvn -f tensquare_common clean install"
  //编译,构建本地镜像
  sh "mvn -f ${project_name} clean package dockerfile:build"
 }
}


4)项目测试


33.png

44.png


5)编译失败


55.png


出现这种问题,是因为微服务具有相关的依赖,需要将tensquare_parent项目手动上传到maven本地仓库中


234.png


1.9 微服务持续集成(5)-上传到Harbor镜像仓库


1)使用凭证管理Harbor私服账户和密码


56.png


2)生成凭证脚本代码


57.png

58.png


3)修改Jenkinsfile构建脚本


//gitlab的凭证
def git_auth = "14ae86e8-c3b4-4d7d-afe1-8c23d9fed317"
//gitlab的地址
def git_url = "git@192.168.5.4:root/tensquare_bak.git"
// 构建版本的名称
def tag = "latest"
//Harbor私服地址
def harbor_url = "192.168.5.5:8080"
//Harbor的项目名称
def harbor_project_name = "tensquare"
//Harbor的凭证
def harbor_auth = "cd0b948d-e82b-4c0c-8a7c-8c6b8fb5454b"
node {
    stage('拉取代码') {
        checkout([$class: 'GitSCM', branches: [[name: "*/${branch}"]], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_url}"]]])
    }
    stage('代码审查') {
        //定义当前Jenkins的SonarQubeScanner工具
        def scannerHome = tool 'sonarqube-scanner'
        //引用当前Jenkins SonarQube环境
        withSonarQubeEnv('sonarqube') {
            sh """
                cd ${project_name}
                ${scannerHome}/bin/sonar-scanner
            """
        }
    }
    stage('编译,构建镜像') {
        //定义镜像名称
        def imageName = "${project_name}:${tag}"
        //编译,安装公共工程
        sh "mvn -f tensquare_common clean install"
        //编译,构建本地镜像
        sh "mvn -f ${project_name} clean package dockerfile:build"
        //给镜像打标签
        sh "docker tag ${imageName} ${harbor_url}/${harbor_project_name}/${imageName}"
        //登录Harbor,并上传镜像
        withCredentials([usernamePassword(credentialsId: "${harbor_auth}",passwordVariable: 'password', usernameVariable: 'username')]) {
            //登录
            sh "docker login -u ${username} -p ${password} ${harbor_url}"
            //上传镜像
            sh "docker push ${harbor_url}/${harbor_project_name}/${imageName}"
        }
        //删除本地镜像
        sh "docker rmi -f ${imageName}"
        sh "docker rmi -f ${harbor_url}/${harbor_project_name}/${imageName}"
    }
}


3)项目测试


89.png

778.png


1.10 微服务持续集成(6)-拉取镜像和发布应用


1)安装 Publish Over SSH 插件

212.png



Publish Over SSH


2)拷贝jenkins公钥到生产服务器


ssh-copy-id 192.168.5.6


3)添加远程服务器


213.png

214.png


4)添加一个port参数


215.png


5)生成远程调用模板代码


216.png


217.png


6)修改Jenkinsfile构建脚本


//gitlab的凭证
def git_auth = "14ae86e8-c3b4-4d7d-afe1-8c23d9fed317"
//gitlab的地址
def git_url = "git@192.168.5.4:root/tensquare_bak.git"
// 构建版本的名称
def tag = "latest"
//Harbor私服地址
def harbor_url = "192.168.5.5:8080"
//Harbor的项目名称
def harbor_project_name = "tensquare"
//Harbor的凭证
def harbor_auth = "cd0b948d-e82b-4c0c-8a7c-8c6b8fb5454b"
node {
    stage('拉取代码') {
        checkout([$class: 'GitSCM', branches: [[name: "*/${branch}"]], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_url}"]]])
    }
  stage('代码审查') {
    //定义当前Jenkins的SonarQubeScanner工具
    def scannerHome = tool 'sonarqube-scanner'
    //引用当前Jenkins SonarQube环境
    withSonarQubeEnv('sonarqube') {
      sh """
        cd ${project_name}
        ${scannerHome}/bin/sonar-scanner
      """
    }
  }
  stage('编译,构建镜像') {
    //定义镜像名称
    def imageName = "${project_name}:${tag}"
    //编译,安装公共工程
    sh "mvn -f tensquare_common clean install"
    //编译,构建本地镜像
    sh "mvn -f ${project_name} clean package dockerfile:build"
    //给镜像打标签
    sh "docker tag ${imageName} ${harbor_url}/${harbor_project_name}/${imageName}"
    //登录Harbor,并上传镜像
    withCredentials([usernamePassword(credentialsId: "${harbor_auth}",passwordVariable: 'password', usernameVariable: 'username')]) {
      //登录
      sh "docker login -u ${username} -p ${password} ${harbor_url}"
      //上传镜像
      sh "docker push ${harbor_url}/${harbor_project_name}/${imageName}"
    }
    //删除本地镜像
    sh "docker rmi -f ${imageName}"
    sh "docker rmi -f ${harbor_url}/${harbor_project_name}/${imageName}"
    //=====以下为远程调用进行项目部署========
    sshPublisher(publishers: [sshPublisherDesc(configName: 'master_server', transfers: [sshTransfer(cleanRemote: false, excludes: '', execCommand: "/opt/jenkins_shell/deploy.sh $harbor_url $harbor_project_name $project_name $tag $port", execTimeout: 120000, flatten: false, makeEmptyDirs: false, noDefaultExcludes: false, patternSeparator: '[, ]+', remoteDirectory: '', remoteDirectorySDF: false, removePrefix: '', sourceFiles: '')], usePromotionTimestamp: false, useWorkspaceInPromotion: false, verbose: false)])
  }
}

218.png


2)配置NodeJS环境


219.png

220.png


3)添加branch,project_name,port参数


221.png

222.png

225.png


4)编写dockerfile脚本


FROM nginx
COPY ./dist /usr/share/nginx/html
EXPOSE 80


5)编写Jenkinsfile构建脚本


//gitlab的凭证
def git_auth = "14ae86e8-c3b4-4d7d-afe1-8c23d9fed317"
//gitlab的地址
def git_url = "git@192.168.5.4:root/tensquare_front.git"
// 构建版本的名称
def tag = "latest"
//Harbor私服地址
def harbor_url = "192.168.5.5:8080"
//Harbor的项目名称
def harbor_project_name = "tensquare"
//Harbor的凭证
def harbor_auth = "cd0b948d-e82b-4c0c-8a7c-8c6b8fb5454b"
node {
    stage('拉取代码') {
        checkout([$class: 'GitSCM', branches: [[name: "*/${branch}"]], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_url}"]]])
    }
  stage('编译,构建镜像') {
    //定义镜像名称
    def imageName = "${project_name}:${tag}"
    //使用NodeJS 进行打包
      nodejs('nodejs'){
           sh'''
              npm install
              npm run build
             '''
      }
    //生成镜像
    sh "docker build -t ${project_name}:${tag} ."
    //给镜像打标签
    sh "docker tag ${imageName} ${harbor_url}/${harbor_project_name}/${imageName}"
    //登录Harbor,并上传镜像
    withCredentials([usernamePassword(credentialsId: "${harbor_auth}",passwordVariable: 'password', usernameVariable: 'username')]) {
      //登录
      sh "docker login -u ${username} -p ${password} ${harbor_url}"
      //上传镜像
      sh "docker push ${harbor_url}/${harbor_project_name}/${imageName}"
    }
    //删除本地镜像
    sh "docker rmi -f ${imageName}"
    sh "docker rmi -f ${harbor_url}/${harbor_project_name}/${imageName}"
    //=====以下为远程调用进行项目部署========
    sshPublisher(publishers: [sshPublisherDesc(configName: 'master_server', transfers: [sshTransfer(cleanRemote: false, excludes: '', execCommand: "/opt/jenkins_shell/deploy.sh $harbor_url $harbor_project_name $project_name $tag $port", execTimeout: 120000, flatten: false, makeEmptyDirs: false, noDefaultExcludes: false, patternSeparator: '[, ]+', remoteDirectory: '', remoteDirectorySDF: false, removePrefix: '', sourceFiles: '')], usePromotionTimestamp: false, useWorkspaceInPromotion: false, verbose: false)])
  }
}


6)编写deploy.sh部署脚本(之前编写过后,不用再次编写)


#! /bin/sh
#接收外部参数
harbor_url=$1
harbor_project_name=$2
project_name=$3
tag=$4
port=$5
imageName=$harbor_url/$harbor_project_name/$project_name:$tag
echo "$imageName"
#查询容器是否存在,存在则删除
containerId=`docker ps -a | grep -w ${project_name}:${tag} | awk '{print $1}'`
if [ "$containerId" != "" ] ; then
  #停掉容器
  docker stop $containerId
  #删除容器
  docker rm $containerId
  echo "成功删除容器"
fi
#查询镜像是否存在,存在则删除
imageId=`docker images | grep -w $project_name | awk '{print $3}'`
if [ "$imageId" != "" ] ; then
  #删除镜像
  docker rmi -f $imageId
  echo "成功删除镜像"
fi
# 登录Harbor私服
docker login -u admin -p Harbor12345 $harbor_url
# 下载镜像
docker pull $imageName
# 启动容器
docker run -di -p $port:$port $imageName
echo "容器启动成功"


7)修改代码连接后端微服务服务


6.png

7.png




8)项目测试


4.png

3.png

2.png

1.png

相关文章
|
9月前
|
弹性计算 关系型数据库 微服务
基于 Docker 与 Kubernetes(K3s)的微服务:阿里云生产环境扩容实践
在微服务架构中,如何实现“稳定扩容”与“成本可控”是企业面临的核心挑战。本文结合 Python FastAPI 微服务实战,详解如何基于阿里云基础设施,利用 Docker 封装服务、K3s 实现容器编排,构建生产级微服务架构。内容涵盖容器构建、集群部署、自动扩缩容、可观测性等关键环节,适配阿里云资源特性与服务生态,助力企业打造低成本、高可靠、易扩展的微服务解决方案。
2369 10
|
Cloud Native Java Nacos
springcloud/springboot集成NACOS 做注册和配置中心以及nacos源码分析
通过本文,我们详细介绍了如何在 Spring Cloud 和 Spring Boot 中集成 Nacos 进行服务注册和配置管理,并对 Nacos 的源码进行了初步分析。Nacos 作为一个强大的服务注册和配置管理平台,为微服务架构提供
5002 14
|
存储 JavaScript 开发工具
基于HarmonyOS 5.0(NEXT)与SpringCloud架构的跨平台应用开发与服务集成研究【实战】
本次的.HarmonyOS Next ,ArkTS语言,HarmonyOS的元服务和DevEco Studio 开发工具,为开发者提供了构建现代化、轻量化、高性能应用的便捷方式。这些技术和工具将帮助开发者更好地适应未来的智能设备和服务提供方式。
基于HarmonyOS 5.0(NEXT)与SpringCloud架构的跨平台应用开发与服务集成研究【实战】
|
安全 数据安全/隐私保护 Docker
docker私有仓库harbor安装
通过以上步骤,您可以成功在企业内部安装和配置Harbor私有仓库,方便地管理和分发Docker镜像。Harbor不仅提供了基础的镜像管理功能,还增强了安全性、身份管理和审计功能,使其成为企业级容器镜像管理的理想选择。
879 22
|
关系型数据库 MySQL Docker
《docker高级篇(大厂进阶):5.Docker-compose容器编排》包括是什么能干嘛去哪下、Compose核心概念、Compose使用三个步骤、Compose常用命令、Compose编排微服务
《docker高级篇(大厂进阶):5.Docker-compose容器编排》包括是什么能干嘛去哪下、Compose核心概念、Compose使用三个步骤、Compose常用命令、Compose编排微服务
945 24
|
关系型数据库 MySQL Docker
《docker高级篇(大厂进阶):5.Docker-compose容器编排》包括是什么能干嘛去哪下、Compose核心概念、Compose使用三个步骤、Compose常用命令、Compose编排微服务
《docker高级篇(大厂进阶):5.Docker-compose容器编排》包括是什么能干嘛去哪下、Compose核心概念、Compose使用三个步骤、Compose常用命令、Compose编排微服务
893 6
|
安全 持续交付 Docker
微服务架构和 Docker 容器化部署的优点是什么?
微服务架构和 Docker 容器化部署的优点是什么?
|
jenkins Devops Java
DevOps实践:Jenkins在持续集成与持续部署中的价值
【10月更文挑战第27天】在快速发展的软件开发领域,DevOps实践日益重要。Jenkins作为一款流行的开源自动化服务器,在持续集成(CI)和持续部署(CD)中扮演关键角色。本文通过案例分析,探讨Jenkins在Java项目中的应用,展示其自动化构建、测试和部署的能力,提高开发效率和软件质量。
526 2
|
监控 jenkins Shell
jenkins结合gitlab实现CI(持续集成)
通过本文的介绍,我们详细了解了如何结合Jenkins和GitLab实现持续集成。从环境准备、插件配置到Pipeline任务创建和CI流程监控,每一步都提供了详细的操作步骤和示例代码。希望本文能帮助开发者快速搭建起高效的CI系统,提高项目开发效率和代码质量。
1672 9
|
Java jenkins 持续交付
Jenkins集成Maven
通过以上步骤,可以在Jenkins中成功集成Maven,实现自动化构建和部署。通过定时构建、SCM轮询等方式,可以确保代码库中的最新变更能够及时构建和测试,提高开发效率和代码质量。这种集成方式在实际项目中具有广泛的应用前景,能够显著提升团队的协作效率。
602 8