5分钟搞懂Jenkins分布式架构

简介: Jenkins通常以单节点模式工作,但其也可以通过代理的方式实现多节点架构,从而能够横向扩展Jenkins系统,支持大规模CICD流水线。
Jenkins通常以单节点模式工作,但其也可以通过代理的方式实现多节点架构,从而能够横向扩展Jenkins系统,支持大规模CICD流水线。原文: Jenkins Distributed Architecture

Jenkins是最著名的持续集成工具,是实现DevOps的必要组件之一。

本文我们将研究如何基于Jenkins的主从配置实现Jenkins分布式架构。

Jenkins单节点架构

参考下图了解Jenkins单节点架构。

Jenkins单节点架构

对于某些特定场景,单节点不足以满足需求:

  • 如果所有执行程序都忙于处理构建任务,则作业(Job)必须等待。
  • 当项目的数量或负载增加时,很可能会耗尽资源。

为了恢复并运行Jenkins基础设施,需要通过增加内存、CPU等来增强服务器,而这不具备可扩展性,必须根据需求维护和升级服务器。

在维护升级过程中,构建环境将被关闭,作业不得不停止,整个Jenkins基础设施将不可用。

这种单节点架构会造成系统经常处于idel状态,分配给Jenkins环境的资源在这种状态下也没法被充分利用。

单节点架构还会引入安全问题,因为Jenkins用户对所有资源和工作空间都拥有完全的权限。

由于所有这些原因,Jenkins支持分布式架构,其中构建项目的工作负载被委托给多个Jenkins代理。


Jenkins分布式架构

Jenkins代理是运行在远程服务器上并从主节点卸载工作的Java可执行文件。

Jenkins主节点(Master)的特点:

主节点负责:

  1. 调度构建作业。
  2. 将构建作业分发给代理实际执行。
  3. 监视从节点(Slave),并根据需要停止其工作。
  4. 如果所有Jenkins代理都被占用,也可以直接执行作业。
Jenkins代理的特点:

Jenkins代理负责:

  1. 从主节点接收请求或工作,代理的工作就是按命令行事。
  2. 可以将工作配置为始终在特定代理上执行。
  3. 主节点将利用其资源来处理HTTP请求和管理构建环境,构建的实际执行将委托给代理。

通过这种配置,可以横向扩展Jenkins架构,其中Jenkins将安装在单个节点上。

参考下图理解Jenkins的多节点或分布式架构。

Jenkins分布式架构


接下来我们在AWS EC2上设置Jenkins代理,并将其与Jenkins主节点集成。

第一步:

在一台服务器上运行Jenkins主节点。

第二步:

  • 为Jenkins代理创建EC2实例。
  • 为了访问代理节点,Jenkins代理程序需要与主节点建立双向通信。

在Master和Agent之间建立连接有不同的方法:

  1. SSH Connector
  2. Inbound Connector
  3. 自定义脚本
  • 因为Jenkins内置了SSH客户端实现,因此我们使用SSH连接器,Jenkins主节点可以使用授权密钥轻松的与代理建立连接。
  • 在新的EC2实例上使用ssh-keygen命令创建SSH密钥。

第三步:

  • 如上所述,Jenkins代理是Java可执行文件,因此需要在服务器上安装JDK (Java Development Kit)。
# Install Java
sudo apt-get update

sudo apt-get install default-jdk -y

# Install Maven
sudo apt-get install maven -y

# Create User as Jenkins
sudo useradd -m jenkins
sudo -u jenkins mkdir /home/jenkins/.ssh

第四步:

  • SSH到部署了Jenkins Master的EC2实例。
  • 从Master添加SSH密钥到Jenkins Agent:sudo cat ~/. SSH /id_rsa.pub
  • 拷贝上述命令的输出。

第五步:

  • SSH到部署了Jenkins Agent的EC2实例。
  • .ssh文件夹下创建一个空文件,复制主节点的SSH密钥: sudo -u jenkins vi /home/jenkins/.ssh/authorized_keys

第六步:

  • SSH到部署了Jenkins Master的EC2实例。
  • 使用ssh jenkins@Jenkins_Agent_IP_ADDRESS测试与代理节点的连接。
注意: Jenkins Agent的公网IP必须在Master安全组的白名单内。
  • 通过执行sudo cp ~/.ssh/known_hosts /var/lib/jenkins/.ssh将SSH密钥复制到/var/lib/jenkins/.ssh
  • Jenkins Master将从上面的文件夹中查找密钥。
  • 如果在Docker上运行Jenkins Master,那么使用命令sudo cp ~/.ssh/known_hosts <JENKINS HOME directory >/.ssh

第七步:

  • 为Jenkins代理添加证书。
  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Credentials → Global Credentials → Add Credentials

  • 我们在步骤3中已经在代理节点上创建了jenkins用户,因此用户名为jenkins
  • 可以使用sudo cat ~/.ssh/id_rsa命令从主节点复制私钥。
  • 确保复制了整个密钥。
-----BEGIN RSA PRIVATE KEY-----
-----
-----END RSA PRIVATE KEY-----

第八步:

  • 在Jenkins Master中注册代理节点。
  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Nodes

管理节点

  • 单击"New Node",输入"Node Name",并将节点配置为"Permanent Agent"。

  • 用以下值配置代理并保存。
  • 可以选择第七步中创建的key。

第九步:

  • 启动代理并检查日志。

代理连接日志

第十步:

  • 恭喜配置完成了Jenkins分布式系统,现在可以开始构建工作了。
  • 可以看到Jenkins主节点通过从节点执行作业。

你好,我是俞凡,在Motorola做过研发,现在在Mavenir做技术工作,对通信、网络、后端架构、云原生、DevOps、CICD、区块链、AI等技术始终保持着浓厚的兴趣,平时喜欢阅读、思考,相信持续学习、终身成长,欢迎一起交流学习。 \
微信公众号:DeepNoMind
目录
相关文章
|
5天前
|
存储 NoSQL Java
一天五道Java面试题----第十一天(分布式架构下,Session共享有什么方案--------->分布式事务解决方案)
这篇文章是关于Java面试中的分布式架构问题的笔记,包括分布式架构下的Session共享方案、RPC和RMI的理解、分布式ID生成方案、分布式锁解决方案以及分布式事务解决方案。
一天五道Java面试题----第十一天(分布式架构下,Session共享有什么方案--------->分布式事务解决方案)
|
11天前
|
Cloud Native 云计算 微服务
云原生时代:企业分布式应用架构的惊人蜕变,从SOA到微服务的大逃亡!
【8月更文挑战第8天】在云计算与容器技术推动下,企业分布式应用架构正经历从SOA到微服务再到云原生的深刻变革。SOA强调服务重用与组合,通过标准化接口实现服务解耦;微服务以细粒度划分服务,增强系统灵活性;云原生架构借助容器化与自动化技术简化部署与管理。每一步演进都为企业带来新的技术挑战与机遇。
38 6
|
13天前
|
Kubernetes 负载均衡 算法
如何在kubernetes中实现分布式可扩展的WebSocket服务架构
如何在kubernetes中实现分布式可扩展的WebSocket服务架构
26 1
|
20天前
|
NoSQL 算法 Java
(十三)全面理解并发编程之分布式架构下Redis、ZK分布式锁的前世今生
本文探讨了从单体架构下的锁机制到分布式架构下的线程安全问题,并详细分析了分布式锁的实现原理和过程。
|
18天前
|
前端开发 Java 数据库
|
4天前
|
存储 调度
分布式锁设计问题之分布式锁系统通常设计其架构如何解决
分布式锁设计问题之分布式锁系统通常设计其架构如何解决
|
2月前
|
消息中间件 传感器 Cloud Native
事件驱动作为分布式异步服务架构
【6月更文挑战第25天】本文介绍事件驱动架构(EDA)是异步分布式设计的关键模式,适用于高扩展性需求。EDA提升服务韧性,支持CQRS、数据通知、开放式接口和事件流处理。然而,其脆弱性包括组件控制、数据交换、逻辑关系复杂性、潜在死循环和高并发挑战。EDA在云原生环境,如Serverless,中尤其适用。
62 2
事件驱动作为分布式异步服务架构
|
1月前
|
消息中间件 Java 开发者
Spring Cloud微服务框架:构建高可用、分布式系统的现代架构
Spring Cloud是一个开源的微服务框架,旨在帮助开发者快速构建在分布式系统环境中运行的服务。它提供了一系列工具,用于在分布式系统中配置、服务发现、断路器、智能路由、微代理、控制总线、一次性令牌、全局锁、领导选举、分布式会话、集群状态等领域的支持。
119 5
|
1月前
|
边缘计算 搜索推荐 算法
探索操作系统的未来:从单体到分布式架构
随着技术的进步和计算需求的增长,操作系统(OS)正经历着从传统的单体结构向更为复杂、灵活的分布式架构转变。本文将深入分析这一转变背后的原因,探讨分布式操作系统的设计原理与优势,以及它对未来计算模型的潜在影响。通过对比单体与分布式操作系统的性能指标和案例研究,我们旨在为读者提供一个全面的视角,以理解这一变革对软件开发、系统管理和用户体验所带来的深远影响。
40 1
|
1月前
|
消息中间件 监控 Java
使用Kafka实现分布式事件驱动架构
使用Kafka实现分布式事件驱动架构

热门文章

最新文章