阿里云容器服务新建集群优化方案

本文涉及的产品
容器镜像服务 ACR,镜像仓库100个 不限时长
简介: 这里记录了在工作中遇到阿里云容器服务的调优优化方案,帮助您绕过阿里云容器服务中的一些坑,来使用更好更优质的阿里云容器服务。

前言

选择阿里云的容器服务,主要原因是公司主要业务基本都在运行在阿里云上。相较自建 kubernetes 集群,容器服务的优势在于部署相对简单,与阿里云 VPC 完美兼容,网络的配置相对简单,而如果使用 kubeadm 安装部署 kubernetes 集群,除了众所周知的科学史上网问题,还有一系列的问题,包括 etcdschedulercontroller-manager 的高可用问题等。并且如果使用托管版的阿里云 kubernetes 容器服务,还会省掉3台 master 节点的钱,并且可能将 master 节点的运维问题丢给阿里云解决,并且其提供的 master 节点性能肯定会比自购的配置好,这点是阿里云容器服务的研发小哥在来我司交流时专门强调的。

问题

前面吹了阿里云容器服务的优势,那这里就说说在实践中遇到的容器服务的问题:

  • 在新建集群的时候需要选择相应的 VPC 并选择 PodService 所在的网段,这两个网段不能和 Node 节点存在于同一网段,但是如果您在阿里云中存在不止一个 VPC (VPC的网段可以是 10.0.0.0/8,172.16-31.0.0/12-16,192.168.0.0/16 ),如果网段设置不对的话,就可能会使原本存在该网段的 ECS 失联,需要删除集群重新创建。如果删除失败的话,还需要手动删除路由表中的记录(别问我是怎么知道的)。
  • 在使用容器服务创建集群后,会创建2个 SLB (之前是3个),一个是 SLB 是在 VPC 上并且绑定一个弹性IP(需要在创建的时候手动勾选创建弹性IP)用于 API Server,一个是经典网络的 SLB 使用提供给 Ingress 使用。但是这两个外网IP创建后的规格都是默认最大带宽、按流量收费,这个并不符合我们的要求,需要手动修改,然而这个修改都会在第二天才能生效。
  • 容器服务创建集群后,Node 节点的名称会使{region-id}.{ECS-id}的形式,这个命名方式在集群监控,使用 kubectl 操作集群方面就显得比较反人类了,每次都要去查 ECS id 才能确定是哪个节点,而这个 Node 节点名称是不能修改的!

网段问题解决

这个比较好解决,甚至可以说不用解决,只要把网段规划好,不要出现网段冲突就好

Node 节点名称无法修改问题解决

这个功能之前已有人在阿里聆听平台提出这个问题了,咨询了容器服务的研发小哥,得到的反馈是该功能已经在灰度测试了,相信很快就可以上线了。

创建 SLB 规格问题解决

相较之前自动创建3个 SLB 的方式,目前的版本只会自动创建2个并且有一个是 VPC 内网+弹性IP的方式,已经进行了优化,但是 ingress 绑定的 SLB 还是经典网络类型,无法接入云防火墙并且规格也是不合适的。这里给出解决方案:

创建新的 SLB

  • 这里需要创建一个新的 SLB 用来代替自动创建的不符合要求的 SLB。这里可以先私网 SLB 先不绑定弹性IP。
    ad5fbf65gy1g1ma5lxgvdj21ws0s6qa5
  • 查看新购买 SLB 的 ID
    ad5fbf65gy1g1ma8zuq1gj20sa0hoq4b

在创建集群后重新绑定 ingress-controllerService

首先需要使用 kubectl 或者直接在阿里云控制台操作,创建新的 nginx-ingress-svc

# nginx ingress service
apiVersion: v1
kind: Service
metadata:
name: nginx-ingress-lb-{new-name}
namespace: kube-system
labels:
    app: nginx-ingress-lb-{new-name}
annotations:
    # set loadbalancer to the specified slb id
    service.beta.kubernetes.io/alicloud-loadbalancer-id: {SLB-ID}
    # set loadbalancer address type to intranet if using private slb instance
    #service.beta.kubernetes.io/alicloud-loadbalancer-address-type: intranet
    service.beta.kubernetes.io/alicloud-loadbalancer-force-override-listeners: 'true'
    #service.beta.kubernetes.io/alicloud-loadbalancer-backend-label: node-role.kubernetes.io/ingress=true
spec:
type: LoadBalancer
# do not route traffic to other nodes
# and reserve client ip for upstream
externalTrafficPolicy: "Local"
ports:
- port: 80
    name: http
    targetPort: 80
- port: 443
    name: https
    targetPort: 443
selector:
    # select app=ingress-nginx pods
    app: ingress-nginx

创建成功后,可以进到 SLB 页面查看,可以看到 80443 端口的监听已经被添加了
ad5fbf65gy1g1maej57c1j21ru0rwq8b

绑定符合要求的弹性IP

确定 SLB 创建成功并且已经成功监听后,这里就可以为 SLB 绑定符合您需求的弹性IP了,这里我们绑定一个按宽带计费2M的弹性IP
ad5fbf65gy1g1mak2r0p3j207k07mq33

验证连通性

到上面这步,我们的 ingress 入口 SLB 已经创建完成,这里我们验证一下是否联通。

  • 在k8s集群中部署一个 nginx ,直接在阿里云容器服务控制台操作即可
    ad5fbf65gy1g1mant7ec6j21s40qegpr.jpg

这里创建 ingress 路由,注意:这里的域名需要解析到刚才创建的 SLB 绑定的弹性IP
ad5fbf65gy1g1mant7ec6j21s40qegpr

  • 访问该域名,显示 nginx 欢迎页,则证明修改成功
    ad5fbf65gy1g1mat8srhnj21ak0hmact.jpg

后续操作

  • 在确定新的 SLB 创建成功后,就可以将容器服务自动穿件的 SLB 释放了
  • 删除 kube-system 中原本绑定的 Service
  • 这里别忘了,自动创建给API Server 的SLB还是按流量付费的,记得降配

后记

上面的这些问题和解决方案都属于临时方案,已在阿里的聆听平台提出了上面的问题,相信很快就会有所改进。总的来说,阿里云容器服务在提供优质的 kubernetes 功能,并且只收 ECS 的钱,对于想学习 kubernetes 又没有太多资金的同学也比较友好,直接买按量付费实例,测试完释放即可,不用购买 master 节点,十分良心!

相关实践学习
巧用云服务器ECS制作节日贺卡
本场景带您体验如何在一台CentOS 7操作系统的ECS实例上,通过搭建web服务器,上传源码到web容器,制作节日贺卡网页。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
目录
相关文章
|
7月前
|
Kubernetes 容器
要获取ACK(阿里云容器服务)集群中的Deployment
要获取ACK(阿里云容器服务)集群中的Deployment【1月更文挑战第8天】【1月更文挑战第40篇】
114 4
|
存储 负载均衡 调度
Docker 多主机部署:构建容器集群的最佳实践,助力高可用性与负载均衡
Docker 多主机部署:构建容器集群的最佳实践,助力高可用性与负载均衡
850 0
|
22小时前
|
Prometheus Kubernetes 监控
OpenAI故障复盘 - 阿里云容器服务与可观测产品如何保障大规模K8s集群稳定性
聚焦近日OpenAI的大规模K8s集群故障,介绍阿里云容器服务与可观测团队在大规模K8s场景下我们的建设与沉淀。以及分享对类似故障问题的应对方案:包括在K8s和Prometheus的高可用架构设计方面、事前事后的稳定性保障体系方面。
|
2月前
|
Kubernetes Cloud Native 流计算
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
93 3
|
2月前
|
Kubernetes 应用服务中间件 nginx
k8s学习--k8s集群使用容器镜像仓库Harbor
本文介绍了在CentOS 7.9环境下部署Harbor容器镜像仓库,并将其集成到Kubernetes集群的过程。环境中包含一台Master节点和两台Node节点,均已部署好K8s集群。首先详细讲述了在Harbor节点上安装Docker和docker-compose,接着通过下载Harbor离线安装包并配置相关参数完成Harbor的部署。随后介绍了如何通过secret和serviceaccount两种方式让Kubernetes集群使用Harbor作为镜像仓库,包括创建secret、配置节点、上传镜像以及创建Pod等步骤。最后验证了Pod能否成功从Harbor拉取镜像运行。
148 0
|
5月前
|
关系型数据库 分布式数据库 PolarDB
PolarDB产品使用问题之原PolarDB-X集群无法连接且Docker容器已经被删除,如何恢复数据
PolarDB产品使用合集涵盖了从创建与管理、数据管理、性能优化与诊断、安全与合规到生态与集成、运维与支持等全方位的功能和服务,旨在帮助企业轻松构建高可用、高性能且易于管理的数据库环境,满足不同业务场景的需求。用户可以通过阿里云控制台、API、SDK等方式便捷地使用这些功能,实现数据库的高效运维与持续优化。
|
7月前
|
存储 Java Serverless
ACK One Argo 工作流集群:玩转容器对象存储
ACK One Argo 工作流集群:玩转容器对象存储
ACK One Argo 工作流集群:玩转容器对象存储
|
7月前
|
运维 Kubernetes Cloud Native
为什么需要容器集群
小陈打算将使用Docker构建的WordPress网站部署到生产环境,但他意识到单个容器可能无法应对潜在的故障、升级需求和高用户访问量。大刘建议小陈采用容器集群,这样能保证服务的持续性和弹性。容器集群通过自动化管理工具,如Kubernetes,简化了多容器的部署和协调,解决了扩展性、服务连续性和监控等问题。随着容器技术的发展,Kubernetes已成为主流的容器编排工具。
|
7月前
|
存储 Kubernetes Docker
容器服务Kubernetes版产品使用合集之集群节点和 pod 实现自动扩缩容如何解决
容器服务Kubernetes版,作为阿里云提供的核心服务之一,旨在帮助企业及开发者高效管理和运行Kubernetes集群,实现应用的容器化与微服务化。以下是关于使用这些服务的一些建议和合集,涵盖基本操作、最佳实践、以及一些高级功能的使用方法。
|
存储 Kubernetes 应用服务中间件
kaniko-在k8s集群中构建容器镜像
kaniko-在k8s集群中构建容器镜像

相关产品

  • 容器计算服务