5分钟搞懂Jenkins分布式架构

简介: Jenkins通常以单节点模式工作,但其也可以通过代理的方式实现多节点架构,从而能够横向扩展Jenkins系统,支持大规模CICD流水线。
Jenkins通常以单节点模式工作,但其也可以通过代理的方式实现多节点架构,从而能够横向扩展Jenkins系统,支持大规模CICD流水线。原文: Jenkins Distributed Architecture

Jenkins是最著名的持续集成工具,是实现DevOps的必要组件之一。

本文我们将研究如何基于Jenkins的主从配置实现Jenkins分布式架构。

Jenkins单节点架构

参考下图了解Jenkins单节点架构。

Jenkins单节点架构

对于某些特定场景,单节点不足以满足需求:

  • 如果所有执行程序都忙于处理构建任务,则作业(Job)必须等待。
  • 当项目的数量或负载增加时,很可能会耗尽资源。

为了恢复并运行Jenkins基础设施,需要通过增加内存、CPU等来增强服务器,而这不具备可扩展性,必须根据需求维护和升级服务器。

在维护升级过程中,构建环境将被关闭,作业不得不停止,整个Jenkins基础设施将不可用。

这种单节点架构会造成系统经常处于idel状态,分配给Jenkins环境的资源在这种状态下也没法被充分利用。

单节点架构还会引入安全问题,因为Jenkins用户对所有资源和工作空间都拥有完全的权限。

由于所有这些原因,Jenkins支持分布式架构,其中构建项目的工作负载被委托给多个Jenkins代理。


Jenkins分布式架构

Jenkins代理是运行在远程服务器上并从主节点卸载工作的Java可执行文件。

Jenkins主节点(Master)的特点:

主节点负责:

  1. 调度构建作业。
  2. 将构建作业分发给代理实际执行。
  3. 监视从节点(Slave),并根据需要停止其工作。
  4. 如果所有Jenkins代理都被占用,也可以直接执行作业。
Jenkins代理的特点:

Jenkins代理负责:

  1. 从主节点接收请求或工作,代理的工作就是按命令行事。
  2. 可以将工作配置为始终在特定代理上执行。
  3. 主节点将利用其资源来处理HTTP请求和管理构建环境,构建的实际执行将委托给代理。

通过这种配置,可以横向扩展Jenkins架构,其中Jenkins将安装在单个节点上。

参考下图理解Jenkins的多节点或分布式架构。

Jenkins分布式架构


接下来我们在AWS EC2上设置Jenkins代理,并将其与Jenkins主节点集成。

第一步:

在一台服务器上运行Jenkins主节点。

第二步:

  • 为Jenkins代理创建EC2实例。
  • 为了访问代理节点,Jenkins代理程序需要与主节点建立双向通信。

在Master和Agent之间建立连接有不同的方法:

  1. SSH Connector
  2. Inbound Connector
  3. 自定义脚本
  • 因为Jenkins内置了SSH客户端实现,因此我们使用SSH连接器,Jenkins主节点可以使用授权密钥轻松的与代理建立连接。
  • 在新的EC2实例上使用ssh-keygen命令创建SSH密钥。

第三步:

  • 如上所述,Jenkins代理是Java可执行文件,因此需要在服务器上安装JDK (Java Development Kit)。
# Install Java
sudo apt-get update

sudo apt-get install default-jdk -y

# Install Maven
sudo apt-get install maven -y

# Create User as Jenkins
sudo useradd -m jenkins
sudo -u jenkins mkdir /home/jenkins/.ssh

第四步:

  • SSH到部署了Jenkins Master的EC2实例。
  • 从Master添加SSH密钥到Jenkins Agent:sudo cat ~/. SSH /id_rsa.pub
  • 拷贝上述命令的输出。

第五步:

  • SSH到部署了Jenkins Agent的EC2实例。
  • .ssh文件夹下创建一个空文件,复制主节点的SSH密钥: sudo -u jenkins vi /home/jenkins/.ssh/authorized_keys

第六步:

  • SSH到部署了Jenkins Master的EC2实例。
  • 使用ssh jenkins@Jenkins_Agent_IP_ADDRESS测试与代理节点的连接。
注意: Jenkins Agent的公网IP必须在Master安全组的白名单内。
  • 通过执行sudo cp ~/.ssh/known_hosts /var/lib/jenkins/.ssh将SSH密钥复制到/var/lib/jenkins/.ssh
  • Jenkins Master将从上面的文件夹中查找密钥。
  • 如果在Docker上运行Jenkins Master,那么使用命令sudo cp ~/.ssh/known_hosts <JENKINS HOME directory >/.ssh

第七步:

  • 为Jenkins代理添加证书。
  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Credentials → Global Credentials → Add Credentials

  • 我们在步骤3中已经在代理节点上创建了jenkins用户,因此用户名为jenkins
  • 可以使用sudo cat ~/.ssh/id_rsa命令从主节点复制私钥。
  • 确保复制了整个密钥。
-----BEGIN RSA PRIVATE KEY-----
-----
-----END RSA PRIVATE KEY-----

第八步:

  • 在Jenkins Master中注册代理节点。
  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Nodes

管理节点

  • 单击"New Node",输入"Node Name",并将节点配置为"Permanent Agent"。

  • 用以下值配置代理并保存。
  • 可以选择第七步中创建的key。

第九步:

  • 启动代理并检查日志。

代理连接日志

第十步:

  • 恭喜配置完成了Jenkins分布式系统,现在可以开始构建工作了。
  • 可以看到Jenkins主节点通过从节点执行作业。

你好,我是俞凡,在Motorola做过研发,现在在Mavenir做技术工作,对通信、网络、后端架构、云原生、DevOps、CICD、区块链、AI等技术始终保持着浓厚的兴趣,平时喜欢阅读、思考,相信持续学习、终身成长,欢迎一起交流学习。 \
微信公众号:DeepNoMind
目录
相关文章
|
4天前
|
存储 Prometheus Cloud Native
分布式系统架构6:链路追踪
本文深入探讨了分布式系统中的链路追踪理论,涵盖追踪与跨度的概念、追踪系统的模块划分及数据收集的三种方式。链路追踪旨在解决复杂分布式系统中请求流转路径不清晰的问题,帮助快速定位故障和性能瓶颈。文中介绍了基于日志、服务探针和边车代理的数据收集方法,并简述了OpenTracing、OpenCensus和OpenTelemetry等链路追踪协议的发展历程及其特点。通过理解这些概念,可以更好地掌握开源链路追踪框架的使用。
56 41
|
4月前
|
安全 应用服务中间件 API
微服务分布式系统架构之zookeeper与dubbo-2
微服务分布式系统架构之zookeeper与dubbo-2
|
4月前
|
负载均衡 Java 应用服务中间件
微服务分布式系统架构之zookeeper与dubbor-1
微服务分布式系统架构之zookeeper与dubbor-1
|
4月前
|
存储 JSON 数据库
Elasticsearch 分布式架构解析
【9月更文第2天】Elasticsearch 是一个分布式的搜索和分析引擎,以其高可扩展性和实时性著称。它基于 Lucene 开发,但提供了更高级别的抽象,使得开发者能够轻松地构建复杂的搜索应用。本文将深入探讨 Elasticsearch 的分布式存储和检索机制,解释其背后的原理及其优势。
303 5
|
14天前
|
设计模式 存储 算法
分布式系统架构5:限流设计模式
本文是小卷关于分布式系统架构学习的第5篇,重点介绍限流器及4种常见的限流设计模式:流量计数器、滑动窗口、漏桶和令牌桶。限流旨在保护系统免受超额流量冲击,确保资源合理分配。流量计数器简单但存在边界问题;滑动窗口更精细地控制流量;漏桶平滑流量但配置复杂;令牌桶允许突发流量。此外,还简要介绍了分布式限流的概念及实现方式,强调了限流的代价与收益权衡。
59 11
|
16天前
|
设计模式 监控 Java
分布式系统架构4:容错设计模式
这是小卷对分布式系统架构学习的第4篇文章,重点介绍了三种常见的容错设计模式:断路器模式、舱壁隔离模式和重试模式。断路器模式防止服务故障蔓延,舱壁隔离模式通过资源隔离避免全局影响,重试模式提升短期故障下的调用成功率。文章还对比了这些模式的优缺点及适用场景,并解释了服务熔断与服务降级的区别。尽管技术文章阅读量不高,但小卷坚持每日更新以促进个人成长。
44 11
|
18天前
|
消息中间件 存储 安全
分布式系统架构3:服务容错
分布式系统因其复杂性,故障几乎是必然的。那么如何让系统在不可避免的故障中依然保持稳定?本文详细介绍了分布式架构中7种核心的服务容错策略,包括故障转移、快速失败、安全失败等,以及它们在实际业务场景中的应用。无论是支付场景的快速失败,还是日志采集的安全失败,每种策略都有自己的适用领域和优缺点。此外,文章还为技术面试提供了解题思路,助你在关键时刻脱颖而出。掌握这些策略,不仅能提升系统健壮性,还能让你的技术栈更上一层楼!快来深入学习,走向架构师之路吧!
54 11
|
20天前
|
自然语言处理 负载均衡 Kubernetes
分布式系统架构2:服务发现
服务发现是分布式系统中服务实例动态注册和发现机制,确保服务间通信。主要由注册中心和服务消费者组成,支持客户端和服务端两种发现模式。注册中心需具备高可用性,常用框架有Eureka、Zookeeper、Consul等。服务注册方式包括主动注册和被动注册,核心流程涵盖服务注册、心跳检测、服务发现、服务调用和注销。
54 12
|
1月前
|
消息中间件 架构师 数据库
本地消息表事务:10Wqps 高并发分布式事务的 终极方案,大厂架构师的 必备方案
45岁资深架构师尼恩分享了一篇关于分布式事务的文章,详细解析了如何在10Wqps高并发场景下实现分布式事务。文章从传统单体架构到微服务架构下分布式事务的需求背景出发,介绍了Seata这一开源分布式事务解决方案及其AT和TCC两种模式。随后,文章深入探讨了经典ebay本地消息表方案,以及如何使用RocketMQ消息队列替代数据库表来提高性能和可靠性。尼恩还分享了如何结合延迟消息进行事务数据的定时对账,确保最终一致性。最后,尼恩强调了高端面试中需要准备“高大上”的答案,并提供了多个技术领域的深度学习资料,帮助读者提升技术水平,顺利通过面试。
本地消息表事务:10Wqps 高并发分布式事务的 终极方案,大厂架构师的 必备方案
|
28天前
|
存储 算法 安全
分布式系统架构1:共识算法Paxos
本文介绍了分布式系统中实现数据一致性的重要算法——Paxos及其改进版Multi Paxos。Paxos算法由Leslie Lamport提出,旨在解决分布式环境下的共识问题,通过提案节点、决策节点和记录节点的协作,确保数据在多台机器间的一致性和可用性。Multi Paxos通过引入主节点选举机制,优化了基本Paxos的效率,减少了网络通信次数,提高了系统的性能和可靠性。文中还简要讨论了数据复制的安全性和一致性保障措施。
37 1