使用Packer实现自动化构建UCloud云主机镜像

简介:

背景

云主机是用户使用最高频的云产品之一。随着云主机数量的增多,如何在云主机中保证版本化部署的一致性,成为用户常见的难题。在现有情况下,用户首先需要手动或使用脚本连接主机,然后再进行部署安装,操作流程复杂且对环境要求苛刻,难以保证一致性和可用性。

为了解决此类问题,UCloud 开发了相关代码,并被自动化构建镜像工具 Packer 的官方仓库所采纳。通过 Packer 创建自定义镜像,可以减少部署时间并提高可靠性,提高了用户自动化部署的能力。8月14日,Hashicorp 官方正式发布了版本 1.4.3 ,其中包括了 UCloud Packer Builder。

Packer是什么?

Packer 是 Hashicorp 公司推出的自动化打包镜像的轻量级开源工具,云厂商通过构建自己的 Builder 集成到 Packer 中去,即可凭借单一配置文件,高效并行的为多云平台创建一致性的镜像。目前 Packer 已经形成完整生态,并与多家主流云厂商建立合作。

UCloud Packer 可以运行在常用的主流操作系统上,它不是 Chef、Puppet 等软件的替代品,而是集成并使用这些自动化配置工具在镜像上预装软件等。再配合 UCloud Terraform、UCloud CLI 等工具,可以在多云的 DevOps 场景下,实现基础设施即代码(IaC)、持续集成和快速交付。

如下图所示,Packer 通过在 Provisioner 中集成 Chef、Shell、Puppet 等工具,制作包含各类软件的不可变镜像,供多云平台的云主机、Docker 等使用。

Hashicorp 官方将 Packer 的优势描述如下:

  1. 基础架构迅速部署:Packer 镜像可以在几秒钟内启动完全配置的云主机,有利于生产和开发;
  2. 多提供商可移植性:Packer 可以为多云平台创建了相同的镜像,每个环境都能运行相同的机器镜像,提供最终的可移植性;
  3. 稳定性高:Packer 在构建镜像时会为机器安装和配置所有软件。如果脚本中存在错误,可以被提前捕获,而不是在启动计算机几分钟后;
  4. 可测试性高:Packer 在构建机器镜像后,可以快速启动该机器镜像并进行冒烟测试,以验证镜像是否正常工作。如果是正常工作,则可以确信从该镜像启动的任何其他计算机都能正常运行;
  5. 可扩展性高:Packer 的插件机制使得它能够自如的根据需求集成工具和拓展功能。

Packer 与传统控制台创建镜像的对比:

生命周期

利用 Packer 打包镜像的完整周期如下:

  1. 用户通过构建 JSON 模版,执行 packer build 命令调用 UCloud Builder;
  2. 参数提前校验保证可用性;
  3. 创建云主机、EIP 等相关临时资源(若配置为内网环境则无需 EIP);
  4. 通过 SSH 或 WinRM 等连接主机,执行 Provisioner 进程;
  5. 关闭云主机,并创建镜像;
  6. 复制镜像;
  7. 删除主机、EIP 等临时资源;
  8. 执行后处理进程(如本地镜像导入等)。

使用演示

下面通过一个视频来形象地展示 Packer 的使用方式。目标是构建一个装有 nginx 应用的镜像,我们首先创建一个 test.json 文件,然后执行如下命令一键构建镜像:

packer build test.json

Packer 对多云管理的价值

在此次 Hashicorp 官方发布前,UCloud 内部已经积累了一定的 Packer 使用经验。从中发现,如果需要管理多云环境,或者要在公有云与私有云间维护相同的系统,又或者构建的是虚拟机而不是容器,Packer 都是一个很好的选择。

通过一个具体例子来说明。下面这段代码定义了一个 UCloud 公有云上的虚拟机镜像,Packer 利用 ucloud-uhost Builder 配置的参数,先创建一个干净的 CentOS 7 系统,再 ssh 执行 provisioner 定义中指定的三段 shell 脚本,最终成功创建镜像并返回镜像 ID。

{ "variables": { "ucloud_public_key": "{{env `UCLOUD_PUBKEY`}}", "ucloud_private_key": "{{env `UCLOUD_SECRET`}}", "ssh_user": "root", "ssh_password": "password", "ucloud_project_id": "org-projectid", "image_id": "uimage-dpdgyw", "consul_version": "1.5.1", "region": "cn-bj2", "az": "cn-bj2-02" }, "builders": [ { "type": "ucloud-uhost", "public_key": "{{user `ucloud_public_key`}}", "private_key": "{{user `ucloud_private_key`}}", "project_id": "{{user `ucloud_project_id`}}", "region": "{{user `region`}}", "availability_zone": "{{user `az`}}", "instance_type": "n-basic-2", "source_image_id": "{{user `image_id`}}", "ssh_username": "{{user `ssh_user`}}", "ssh_password": "{{user `ssh_password`}}", "image_name": "consul-server-{{user `consul_version`}}" } ], "provisioners": [ { "type": "shell", "scripts": [ "scripts/config-yum.sh", "scripts/consul-service.sh", "scripts/consul-server.sh" ], "environment_vars": [ "CONSUL_VERSION={{user `consul_version`}}" ] } ] }

此时若有额外需求,要求将其也部署到私有云的 Kubernetes 上,该怎么办?一种方法是把 shell 脚本改写成对应的 Dockerfile,但若是构建过程非常复杂,那么改写的过程也会很复杂,并且可能引入错误。

但用 Packer,只需要修改一下 builder 配置的细节:

{ "variables": { "consul_version": "1.5.1" }, "builders": [ { "type": "docker", "image": "centos:7", "commit": true, "changes": [ "CMD [\"tail -f /dev/null\"]", "ENTRYPOINT [\"\"]" ] } ], "provisioners": [ { "type": "shell", "scripts": [ "scripts/config-yum.sh", "scripts/consul-service.sh", "scripts/consul-server.sh" ], "environment_vars": [ "CONSUL_VERSION={{user `consul_version`}}" ] } ], "post-processors": [ [ { "type": "docker-tag", "repository": "lonegunmanb/consulServer", "tag": "0.1" }, "docker-push" ] ] }

在公有云平台上已经过测试的构建脚本,就可以直接用来构建 Docker 镜像,并且在构建完成后,自动打上 tag,push 到 Docker Hub 仓库去。并且,由于 Packer 是执行完 provisioner 后,通过 docker commit 的方式构建镜像,所以 Packer 的构建只会增加额外的一个层,避免不恰当的 Dockerfile 增加多个层的问题。

Packer +Terraform,1+1>2

Packer 配合 Git、Terraform、UCloud CLI 等使用,可以实现 DevOps 下的基础设施即代码(IaC),达到持续集成和快速交付。

如下图,Packer 配合 Git 对镜像的配置文件做版本化控制,从而来实现服务的版本化,保证了实例的最终一致性,然后利用 Packer 和 Terraform 自动化构建服务的目的。

  1. 在自动化流程中,首先变更镜像配置仓库,触发执行 Terraform 命令;
  2. Terraform 执行 packer build 命令构建镜像;
  3. 将制作成功的镜像查询给 Terraform 使用;
  4. 最后由 Terraform 构建并启动新实例替换原有的旧实例,完成服务自动化部署。

UCloud 此前已提供对 Terraform 的官方集成,可通过产品文档了解更多详情。文档链接:https://docs.ucloud.cn/compute/terraform/index

总结

UCloud 通过对 Packer 的接入,提供了一种在云主机中自动化配置环境的能力,而且它可以配合 cloud-init 及一些常用的自动化部署软件使用,进一步拓展功能。另外,通过配合UCloud Terraform 、UCloud CLI 等工具,可以实现对基础架构的版本化和代码化管理,达到精准交付和快速部署以及最终一致性。
最后需要云主机的朋友可点击了解详情

目录
相关文章
|
存储 机器学习/深度学习 Kubernetes
kubeflow系列:基于国内阿里云镜像解决kubeflow一键安装
google出品在国内都存在墙的问题,而kubeflow作为云原生的机器学习套件对团队的帮助很大,对于无条件的团队,基于国内镜像搭建kubeflow可以帮助大家解决不少麻烦,这里给大家提供一套基于国内阿里云镜像的kubeflow 0.6的安装方案。
8728 0
kubeflow系列:基于国内阿里云镜像解决kubeflow一键安装
|
30天前
|
Devops Java 数据安全/隐私保护
DevOps搭建(二)-阿里云镜像仓库的使用详解
DevOps搭建(二)-阿里云镜像仓库的使用详解
46 0
|
30天前
|
JavaScript Devops Java
DevOps搭建(一)-安装Harbor镜像仓库详细步骤
DevOps搭建(一)-安装Harbor镜像仓库详细步骤
25 0
|
4月前
|
Docker 容器
Docker【部署 01】在线安装+离线安装+问题处理(设置阿里云镜像加速器)不断完善ing
Docker【部署 01】在线安装+离线安装+问题处理(设置阿里云镜像加速器)不断完善ing
427 0
|
Kubernetes Cloud Native Ubuntu
企业实战!基于Harbor搭建企业镜像仓库
本文讲解了如何使用Docker部署VMware旗下容器注册表服务器Harbor
|
网络协议 jenkins Java
企业DevOps之路:Jenkins 集成 Harbor 自动发布镜像
实际中,一般会结合 Jenkins 的流水线,进行自动构建和发布。
410 0
企业DevOps之路:Jenkins 集成 Harbor 自动发布镜像
|
安全 Devops 数据安全/隐私保护
企业DevOps之路:私有镜像仓库 Harbor 搭建
Harbor 是由 VMware 公司开源的企业级的 Docker Registry 管理项目,它包括权限管理(RBAC)、LDAP、日志审核、管理界面、自我注册、镜像复制和中文支持等功能。
257 1
企业DevOps之路:私有镜像仓库 Harbor 搭建
|
Devops Docker 容器
企业DevOps之路:发布镜像到 Harbor 仓库
本篇内容记录了harbor仓库的相关操作。
249 0
企业DevOps之路:发布镜像到 Harbor 仓库
|
存储 Devops Linux
群晖+DOCKER,一个更好的DEVOPS+WEBOS云平台及综合云OS选型
本文关键字:dualrunning os bootloader设想,dockerized os subsystem appmodel,云devops学编程
763 0
群晖+DOCKER,一个更好的DEVOPS+WEBOS云平台及综合云OS选型