招商银行 KubeVela 离线部署实践

本文涉及的产品
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
性能测试 PTS,5000VUM额度
简介: 本文将以 KubeVela v1.2.5 版本为例,介绍招商银行 KubeVela 的离线部署实践,来帮助其他用户在离线环境中更便捷的完成 KubeVela 的部署。

招商银行云平台开发团队自 2021 年开始接触 KubeVela,并探索 KubeVela 在招商银行云平台的落地实践,借此提升云原生应用交付与管理能力。同时因为金融保险行业的特殊性,网络安全管控措施相对严格,行内网络无法直接拉取 Docker Hub 镜像,同时行内暂时没有可用的 Helm 镜像源。因此,要想实现 KubeVela 在行内私有环境的落地,必须进行完全的离线部署。


本文将以 KubeVela v1.2.5 版本为例,介绍招商银行 KubeVela 的离线部署实践,来帮助其他用户在离线环境中更便捷的完成 KubeVela 的部署。


KubeVela 离线部署方案


我们将 KubeVela 的离线部署主要分为三部分,分别是 Vela Cli、Vela Core 以及 Addon 的离线部署,每一部分主要涉及到相关 docker 镜像的加载及 Helm 的 repackage,通过该离线部署方案,能够大大加快 KubeVela 在离线环境的部署。

在离线部署前请确保 Kubernetes 集群版本 >= v1.19 && < v1.22,KubeVela 控制平面依赖 Kubernetes,可以放置在任何托管 Kubernetes 作为底座的产品或自建 Kubernetes 集群中。同时你也可以使用 kind 或 minikube 在本地部署、测试 KubeVela。


Vela Cli 离线部署


  • 首先,需要通过 KubeVela 的发布日志[1]下载你所需版本的 vela 二进制文件
  • 解压二进制文件,并且在 $PATH 中配置相应的环境变量
  • 解压二进制文件
  • tar -zxvf vela-v1.2.5-linux-amd64.tar.gz
  • mv ./linux-amd64/vela /usr/local/bin/vela
  • 设置环境变量
  • vi /etc/profile
  • export PATH="$PATH:/usr/local/bin"
  • source /etc/profile
  • 通过 vela version 验证 Vela Cli 的安装,并检查输出


CLI Version: v1.2.5
Core Version:
GitRevision: git-ef80b66
GolangVersion: go1.17.7


  • 至此,Vela Cli 已经离线部署完成!

Vela Core 离线部署


  • 离线部署 Vela Core 之前,首先需要在离线环境中安装 Helm[2], 并且 Helm 的版本需要满足v3.2.0+
  • 准备 docker 镜像, Vela Core 的部署主要涉及5个镜像,你需要首先访问互联网从 Docker Hub 下载相应镜像,之后再 load 到离线环境
  • 从Docker Hub拉取镜像
  • docker pull oamdev/vela-core:v1.2.5
  • docker pull oamdev/cluster-gateway:v1.1.7
  • docker pull oamdev/kube-webhook-certgen:v2.3
  • docker pull oamdev/alpine-k8s:1.18.2
  • docker pull oamdev/hello-world:v1
  • 将镜像保存到本地磁盘
  • docker save -o vela-core.tar oamdev/vela-core:v1.2.5
  • docker save -o cluster-gateway.tar oamdev/cluster-gateway:v1.1.7
  • docker save -o kube-webhook-certgen.tar oamdev/kube-webhook-certgen:v2.3
  • docker save -o alpine-k8s.tar oamdev/alpine-k8s:1.18.2
  • docker save -o hello-world.tar oamdev/hello-world:v1
  • 在私有环境中重新加载镜像
  • docker load vela-core.tar
  • docker load cluster-gateway.tar
  • docker load kube-webhook-certgen.tar
  • docker load alpine-k8s.tar
  • docker load hello-world.tar
  • 下载 KubeVela 源码[3],拷贝到离线环境中,并使用 Helm 重新打包
  • 将 KubeVela 源码重新打 chart 包,并离线安装 chart 包到控制集群
  • helm package kubevela/charts/vela-core --destination kubevela/charts
  • helm install --create-namespace -n vela-system kubevela kubevela/charts/vela-core-0.1.0.tgz --wait
  • 检查输出
KubeVela control plane has been successfully set up on your cluster.


  • 至此,Vela Core 已经离线部署完成!

Addon 离线部署


  • 首先下载 Catalog 源码[4]并拷贝到私有环境中
  • 这里将以 VelaUX 为例介绍 Addon 的离线部署,首先准备 docker 镜像,VelaUX 主要涉及2个镜像,需要首先访问互联网从 Docker Hub 下载相应镜像,之后再 load 到离线环境
  • 从 Docker Hub 拉取镜像
  • docker pull oamdev/vela-apiserver:v1.2.5
  • docker pull oamdev/velaux:v1.2.5
  • 将镜像保存到本地磁盘
  • docker save -o vela-apiserver.tar oamdev/vela-apiserver:v1.2.5
  • docker save -o velaux.tar oamdev/velaux:v1.2.5
  • 在私有环境中重新加载镜像
  • docker load vela-apiserver.tar
  • docker load velaux.tar
  • 安装 VelaUX
  • 通过 Vela Cli 安装VelaUX
  • vela addon enable catalog-master/addons/velaux
  • 检查输出
Addon: velaux enabled Successfully.


  • 若有集群中安装了 route Controller 或 Nginx Ingress Controller,且有可用域名,你可以部署外部路由访问 VelaUX,这里以 openshift route 为例,也可以选择 ingress
apiVersion: route.openshift.io/v1
kind: Route
metadata:
name: velaux-route
namespace: vela-system
spec:
host: velaux.xxx.xxx.cn
port:
  targetPort: 80
to:
  kind: Service
  name: velaux
  weight: 100
wildcardPolicy: None


  • 检查安装
curl -I -m 10 -o /dev/null -s -w %{http_code} http://velaux.xxx.xxx.cn/applications


  • 至此,VelaUX 已经离线部署完成!同时,对于其他类型 Addon 的离线部署,只需要去 Catalog 源码的对应目录确定所需镜像,并重复以上操作即可完成相应 Addon 的离线部署

总结


在离线部署的过程中,我们也尝试将 Vela Core 和 Addon 在互联网环境中部署后产生的资源实例保存为 yaml 文件,并在私有环境中进行重新部署,从而完成离线部署,但由于涉及的资源实例较多以及服务授权问题,导致该种方式较为繁琐。


通过 KubeVela 离线部署实践,可以帮助你更便捷的在离线环境中搭建一整套的 KubeVela,探索 KubeVela 的落地实践。针对离线部署这个共性的问题,我们也看到 KubeVela 社区即将推出全新的 velad[5],一个完全离线、数据高可用的安装工具。Velad 可以帮助自动化完成准备集群、下载打包镜像并安装到离线环境等一系列步骤。它支持了:在 Linux 机器(例如阿里云 ECS)本地启动集群、安装 vela-core;在快速启动一个 KubeVela 控制平面的同时,不必担心控制平面的数据随着机器关机等情况而丢失;velad 可以将控制平面全部数据存储到一个传统数据库(例如 RDS 或另一个 ECS 上部署的 MySQL)。


近期的版本中,招行将加大在 KubeVela 开源社区的投入,积极共建,在企业级集成能力、多集群能力增强、离线部署和应用级统一可观测等诸多领域,贡献来自于金融行业的特定用户场景和业务需求,推动云原生生态实现更易用更高效的应用管理平台向前发展,也欢迎更多的社区成员一起加入进来。


相关链接:

[1] 发布日志:https://github.com/oam-dev/kubevela/releases

[2] 安装 Helm :https://helm.sh/docs/intro/install/

[3] KubeVela 源码 :https://github.com/oam-dev/kubevela/releases

[4] Catalog 源码:https://github.com/oam-dev/catalog

[5] velad:https://github.com/oam-dev/velad




您可以通过如下材料了解更多关于 KubeVela 以及 OAM 项目的细节:

  • 项目代码库:github.com/oam-dev/kubevela 欢迎 Star/Watch/Fork!
  • 项目官方主页与文档:kubevela.io ,从 1.1 版本开始,已提供中文、英文文档,更多语言文档欢迎开发者进行翻译。
  • 项目钉钉群:23310022;Slack:CNCF #kubevela Channel
  • 加入微信群:请先添加以下 maintainer 微信号,表明进入 KubeVela 用户群:


640.png

点击查看 KubeVela 项目官网。

https://kubevela.io/

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
相关文章
|
存储 Prometheus Kubernetes
阿里 sealer 是如何实现整个集群一键交付的?
顾名思义,和操作系统 .iso 镜像或 Docker 镜像类似,集群镜像是用一定的技术手段把整个集群的所有文件以一定格式打成的一个资源包。
1184 0
阿里 sealer 是如何实现整个集群一键交付的?
|
存储 资源调度 Kubernetes
KubeVela:云原生应用和平台工程之路
KubeVela:云原生应用和平台工程之路
KubeVela:云原生应用和平台工程之路
|
JSON 运维 Prometheus
让应用交付和管理统一:KubeVela 亮点功能及核心技术回顾
让应用交付和管理统一:KubeVela 亮点功能及核心技术回顾
11768 0
让应用交付和管理统一:KubeVela 亮点功能及核心技术回顾
|
运维 资源调度 Kubernetes
「开源人说」第五期 | KubeVela:一场向应用交付标准的“冲锋”
「开源人说」第五期聚焦云原生领域开源至今仅两年多的项目——KubeVela,将镜头对准 KubeVela 项目背后的代码贡献者和落地实践者,讲述这个从第一天就诞生在社区的技术,如何走到对不同场景应用“海纳百川”,直至成为 CNCF 孵化项目,并逐渐向应用交付领域的事实标准演进的故事。 阅读下文,让我们跟随 KubeVela 创始团队,一起了解它的开源背后的故事。
199738 1
「开源人说」第五期 | KubeVela:一场向应用交付标准的“冲锋”
|
运维 Kubernetes Cloud Native
「开源人说」| 开源项目的演进会遇到哪些“坑”?KubeVela 从发起到晋级 CNCF 孵化的全程回顾
KubeVela 诞生于 OAM 社区,开源第一天起就遵循“社区发起、开放治理、国际化运作”的原则。 今 年 2 月,KubeVela 经过全体 ToC 投票成功进入 CNCF Incubation,是云原生领域首个晋级孵化的面向应用的交付和管理平台。本文将做一个完整的回顾,梳理项目演进过程中的那些“坑”,希望对整个开源生态的发展有所帮助。
48536 1
「开源人说」| 开源项目的演进会遇到哪些“坑”?KubeVela 从发起到晋级 CNCF 孵化的全程回顾
|
运维 Kubernetes Cloud Native
KubeVela 再升级:交付管理一体化的云原生应用平台
11月3日,2022 杭州 · 云栖大会上,阿里云智能云原生应用平台总经理丁宇宣布:KubeVela 面向四大核心方向能力升级,打造交付管理一体化的云原生应用平台。
410 3
KubeVela 再升级:交付管理一体化的云原生应用平台
|
运维 Kubernetes Cloud Native
应用纳管和灰度发布:谐云基于 KubeVela 的企业级云原生实践
谐云通过类比事务的方式,将渲染过程分为正向和逆向,同时将首次纳管和真正的纳管动作进行了分离,完成了平台升级的同时,给应用的纳管行为留下了一定的可操作空间。
应用纳管和灰度发布:谐云基于 KubeVela 的企业级云原生实践
|
存储 运维 Kubernetes
SREWorks云原生数智运维工程实践-SREWorks 介绍篇-一看就会的SREWorks快速入门-安装平台底座
SREWorks云原生数智运维工程实践-SREWorks 介绍篇-一看就会的SREWorks快速入门
354 0
|
运维 Cloud Native
SREWorks云原生数智运维工程实践-SREWorks 介绍篇-一看就会的SREWorks快速入门-总结
SREWorks云原生数智运维工程实践-SREWorks 介绍篇-一看就会的SREWorks快速入门