5分钟搞懂Jenkins分布式架构

简介: Jenkins通常以单节点模式工作,但其也可以通过代理的方式实现多节点架构,从而能够横向扩展Jenkins系统,支持大规模CICD流水线。
Jenkins通常以单节点模式工作,但其也可以通过代理的方式实现多节点架构,从而能够横向扩展Jenkins系统,支持大规模CICD流水线。原文: Jenkins Distributed Architecture

Jenkins是最著名的持续集成工具,是实现DevOps的必要组件之一。

本文我们将研究如何基于Jenkins的主从配置实现Jenkins分布式架构。

Jenkins单节点架构

参考下图了解Jenkins单节点架构。

Jenkins单节点架构

对于某些特定场景,单节点不足以满足需求:

  • 如果所有执行程序都忙于处理构建任务,则作业(Job)必须等待。
  • 当项目的数量或负载增加时,很可能会耗尽资源。

为了恢复并运行Jenkins基础设施,需要通过增加内存、CPU等来增强服务器,而这不具备可扩展性,必须根据需求维护和升级服务器。

在维护升级过程中,构建环境将被关闭,作业不得不停止,整个Jenkins基础设施将不可用。

这种单节点架构会造成系统经常处于idel状态,分配给Jenkins环境的资源在这种状态下也没法被充分利用。

单节点架构还会引入安全问题,因为Jenkins用户对所有资源和工作空间都拥有完全的权限。

由于所有这些原因,Jenkins支持分布式架构,其中构建项目的工作负载被委托给多个Jenkins代理。


Jenkins分布式架构

Jenkins代理是运行在远程服务器上并从主节点卸载工作的Java可执行文件。

Jenkins主节点(Master)的特点:

主节点负责:

  1. 调度构建作业。
  2. 将构建作业分发给代理实际执行。
  3. 监视从节点(Slave),并根据需要停止其工作。
  4. 如果所有Jenkins代理都被占用,也可以直接执行作业。
Jenkins代理的特点:

Jenkins代理负责:

  1. 从主节点接收请求或工作,代理的工作就是按命令行事。
  2. 可以将工作配置为始终在特定代理上执行。
  3. 主节点将利用其资源来处理HTTP请求和管理构建环境,构建的实际执行将委托给代理。

通过这种配置,可以横向扩展Jenkins架构,其中Jenkins将安装在单个节点上。

参考下图理解Jenkins的多节点或分布式架构。

Jenkins分布式架构


接下来我们在AWS EC2上设置Jenkins代理,并将其与Jenkins主节点集成。

第一步:

在一台服务器上运行Jenkins主节点。

第二步:

  • 为Jenkins代理创建EC2实例。
  • 为了访问代理节点,Jenkins代理程序需要与主节点建立双向通信。

在Master和Agent之间建立连接有不同的方法:

  1. SSH Connector
  2. Inbound Connector
  3. 自定义脚本
  • 因为Jenkins内置了SSH客户端实现,因此我们使用SSH连接器,Jenkins主节点可以使用授权密钥轻松的与代理建立连接。
  • 在新的EC2实例上使用ssh-keygen命令创建SSH密钥。

第三步:

  • 如上所述,Jenkins代理是Java可执行文件,因此需要在服务器上安装JDK (Java Development Kit)。
# Install Java
sudo apt-get update

sudo apt-get install default-jdk -y

# Install Maven
sudo apt-get install maven -y

# Create User as Jenkins
sudo useradd -m jenkins
sudo -u jenkins mkdir /home/jenkins/.ssh

第四步:

  • SSH到部署了Jenkins Master的EC2实例。
  • 从Master添加SSH密钥到Jenkins Agent:sudo cat ~/. SSH /id_rsa.pub
  • 拷贝上述命令的输出。

第五步:

  • SSH到部署了Jenkins Agent的EC2实例。
  • .ssh文件夹下创建一个空文件,复制主节点的SSH密钥: sudo -u jenkins vi /home/jenkins/.ssh/authorized_keys

第六步:

  • SSH到部署了Jenkins Master的EC2实例。
  • 使用ssh jenkins@Jenkins_Agent_IP_ADDRESS测试与代理节点的连接。
注意: Jenkins Agent的公网IP必须在Master安全组的白名单内。
  • 通过执行sudo cp ~/.ssh/known_hosts /var/lib/jenkins/.ssh将SSH密钥复制到/var/lib/jenkins/.ssh
  • Jenkins Master将从上面的文件夹中查找密钥。
  • 如果在Docker上运行Jenkins Master,那么使用命令sudo cp ~/.ssh/known_hosts <JENKINS HOME directory >/.ssh

第七步:

  • 为Jenkins代理添加证书。
  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Credentials → Global Credentials → Add Credentials

  • 我们在步骤3中已经在代理节点上创建了jenkins用户,因此用户名为jenkins
  • 可以使用sudo cat ~/.ssh/id_rsa命令从主节点复制私钥。
  • 确保复制了整个密钥。
-----BEGIN RSA PRIVATE KEY-----
-----
-----END RSA PRIVATE KEY-----

第八步:

  • 在Jenkins Master中注册代理节点。
  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Nodes

管理节点

  • 单击"New Node",输入"Node Name",并将节点配置为"Permanent Agent"。

  • 用以下值配置代理并保存。
  • 可以选择第七步中创建的key。

第九步:

  • 启动代理并检查日志。

代理连接日志

第十步:

  • 恭喜配置完成了Jenkins分布式系统,现在可以开始构建工作了。
  • 可以看到Jenkins主节点通过从节点执行作业。

你好,我是俞凡,在Motorola做过研发,现在在Mavenir做技术工作,对通信、网络、后端架构、云原生、DevOps、CICD、区块链、AI等技术始终保持着浓厚的兴趣,平时喜欢阅读、思考,相信持续学习、终身成长,欢迎一起交流学习。 \
微信公众号:DeepNoMind
目录
相关文章
|
8月前
|
人工智能 Kubernetes 数据可视化
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
本文回顾了一次关键词监测任务在容器集群中失效的全过程,分析了中转IP复用、调度节奏和异常处理等隐性风险,并提出通过解耦架构、动态IP分发和行为模拟优化采集策略,最终实现稳定高效的数据抓取与分析。
147 2
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
|
5月前
|
缓存 Cloud Native 中间件
《聊聊分布式》从单体到分布式:电商系统架构演进之路
本文系统阐述了电商平台从单体到分布式架构的演进历程,剖析了单体架构的局限性与分布式架构的优势,结合淘宝、京东等真实案例,深入探讨了服务拆分、数据库分片、中间件体系等关键技术实践,并总结了渐进式迁移策略与核心经验,为大型应用架构升级提供了全面参考。
|
5月前
|
存储 NoSQL 前端开发
【赵渝强老师】MongoDB的分布式存储架构
MongoDB分片通过将数据分布到多台服务器,实现海量数据的高效存储与读写。其架构包含路由、配置服务器和分片服务器,支持水平扩展,结合复制集保障高可用性,适用于大规模生产环境。
425 1
|
9月前
|
监控 算法 关系型数据库
分布式事务难题终结:Seata+DRDS全局事务一致性架构设计
在分布式系统中,CAP定理限制了可用性、一致性与分区容错的三者兼得,尤其在网络分区时需做出取舍。为应对这一挑战,最终一致性方案成为常见选择。以电商订单系统为例,微服务化后,原本的本地事务演变为跨数据库的分布式事务,暴露出全局锁失效、事务边界模糊及协议差异等问题。本文深入探讨了基于 Seata 与 DRDS 的分布式事务解决方案,涵盖 AT 模式实践、分片策略优化、典型问题处理、性能调优及高级特性实现,结合实际业务场景提供可落地的技术路径与架构设计原则。通过压测验证,该方案在事务延迟、TPS 及失败率等方面均取得显著优化效果。
474 61
|
存储 缓存 NoSQL
分布式系统架构8:分布式缓存
本文介绍了分布式缓存的理论知识及Redis集群的应用,探讨了AP与CP的区别,Redis作为AP系统具备高性能和高可用性但不保证强一致性。文章还讲解了透明多级缓存(TMC)的概念及其优缺点,并详细分析了memcached和Redis的分布式实现方案。此外,针对缓存穿透、击穿、雪崩和污染等常见问题提供了应对策略,强调了Cache Aside模式在解决数据一致性方面的作用。最后指出,面试中关于缓存的问题多围绕Redis展开,建议深入学习相关知识点。
837 8
|
10月前
|
监控 Linux 应用服务中间件
Linux多节点多硬盘部署MinIO:分布式MinIO集群部署指南搭建高可用架构实践
通过以上步骤,已成功基于已有的 MinIO 服务,扩展为一个 MinIO 集群。该集群具有高可用性和容错性,适合生产环境使用。如果有任何问题,请检查日志或参考MinIO 官方文档。作者联系方式vx:2743642415。
3355 57
|
10月前
|
消息中间件 缓存 算法
分布式开发:数字时代的高性能架构革命-为什么要用分布式?优雅草卓伊凡
分布式开发:数字时代的高性能架构革命-为什么要用分布式?优雅草卓伊凡
837 0
分布式开发:数字时代的高性能架构革命-为什么要用分布式?优雅草卓伊凡
|
12月前
|
并行计算 PyTorch 算法框架/工具
融合AMD与NVIDIA GPU集群的MLOps:异构计算环境中的分布式训练架构实践
本文探讨了如何通过技术手段混合使用AMD与NVIDIA GPU集群以支持PyTorch分布式训练。面对CUDA与ROCm框架互操作性不足的问题,文章提出利用UCC和UCX等统一通信框架实现高效数据传输,并在异构Kubernetes集群中部署任务。通过解决轻度与强度异构环境下的挑战,如计算能力不平衡、内存容量差异及通信性能优化,文章展示了如何无需重构代码即可充分利用异构硬件资源。尽管存在RDMA验证不足、通信性能次优等局限性,但该方案为最大化GPU资源利用率、降低供应商锁定提供了可行路径。源代码已公开,供读者参考实践。
1068 3
融合AMD与NVIDIA GPU集群的MLOps:异构计算环境中的分布式训练架构实践
|
存储 Prometheus Cloud Native
分布式系统架构6:链路追踪
本文深入探讨了分布式系统中的链路追踪理论,涵盖追踪与跨度的概念、追踪系统的模块划分及数据收集的三种方式。链路追踪旨在解决复杂分布式系统中请求流转路径不清晰的问题,帮助快速定位故障和性能瓶颈。文中介绍了基于日志、服务探针和边车代理的数据收集方法,并简述了OpenTracing、OpenCensus和OpenTelemetry等链路追踪协议的发展历程及其特点。通过理解这些概念,可以更好地掌握开源链路追踪框架的使用。
1371 41
|
人工智能 运维 监控
领先AI企业经验谈:探究AI分布式推理网络架构实践
当前,AI行业正处于快速发展的关键时期。继DeepSeek大放异彩之后,又一款备受瞩目的AI智能体产品Manus横空出世。Manus具备独立思考、规划和执行复杂任务的能力,其多智能体架构能够自主调用工具。在GAIA基准测试中,Manus的性能超越了OpenAI同层次的大模型,展现出卓越的技术实力。

推荐镜像

更多