AI 助理
备案控制台
开发者社区 云原生 文章 正文

k8s集群监控（1）-部署prometheus

2022-11-15 671
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
可观测监控 Prometheus 版，每月50GB免费额度
简介： prometheus 部署


环境准备


系统Centos 7.9

image.png


k8s集群：

版本：1.21.5

image.png


节点：

192.168.10.201  master

192.168.10.202  work



k8s集群监控方案：


image.png


k8s部署prometheus


文件准备：


image.png


prometheus-rbac.ymal : 创建角色，权限配置：



apiVersion: v1
kind: ServiceAccount
metadata:  name: prometheus
  namespace: kube-system
  labels:    kubernetes.io/cluster-service: "true"    addonmanager.kubernetes.io/mode: Reconcile
---apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:  name: prometheus
  labels:    kubernetes.io/cluster-service: "true"    addonmanager.kubernetes.io/mode: Reconcile 
rules:  - apiGroups:      - ""    resources:      - nodes
      - nodes/metrics
      - services
      - endpoints
      - pods
    verbs:      - get
      - list
      - watch
  - apiGroups:      - ""    resources:      - configmaps
    verbs:      - get
  - nonResourceURLs:      - "/metrics"    verbs:      - get
---apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:  name: prometheus
  labels:    kubernetes.io/cluster-service: "true"    addonmanager.kubernetes.io/mode: Reconcile
roleRef:  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: prometheus
subjects:- kind: ServiceAccount
  name: prometheus
  namespace: kube-system




prometheus-configmap.yaml


prometheus 监控服务动态发现配置


监控服务包括：


kubernetes-apiservers

kubernetes-nodes-kubelet

kubernetes-nodes-cadvisor

kubernetes-service-endpoints

kubernetes-services

kubernetes-pods


apiVersion: v1
kind: ConfigMap
metadata:  name: prometheus-config
  namespace: kube-system
  labels:    kubernetes.io/cluster-service: "true"    addonmanager.kubernetes.io/mode: EnsureExists
data:  prometheus.yml: |    scrape_configs:    - job_name: prometheus      static_configs:      - targets:        - localhost:9090    - job_name: kubernetes-apiservers      kubernetes_sd_configs:      - role: endpoints      relabel_configs:      - action: keep        regex: default;kubernetes;https        source_labels:        - __meta_kubernetes_namespace        - __meta_kubernetes_service_name        - __meta_kubernetes_endpoint_port_name      scheme: https      tls_config:        ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt        insecure_skip_verify: true      bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token    - job_name: kubernetes-nodes-kubelet
      kubernetes_sd_configs:      - role: node
      relabel_configs:      - action: labelmap
        regex: __meta_kubernetes_node_label_(.+)
      scheme: https
      tls_config:        ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
        insecure_skip_verify: true      bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token
    - job_name: kubernetes-nodes-cadvisor
      kubernetes_sd_configs:      - role: node
      relabel_configs:      - action: labelmap
        regex: __meta_kubernetes_node_label_(.+)
      - target_label: __metrics_path__
        replacement: /metrics/cadvisor
      scheme: https
      tls_config:        ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
        insecure_skip_verify: true      bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token
    - job_name: kubernetes-service-endpoints
      kubernetes_sd_configs:      - role: endpoints
      relabel_configs:      - action: keep
        regex: true        source_labels:        - __meta_kubernetes_service_annotation_prometheus_io_scrape
      - action: replace
        regex: (https?)
        source_labels:        - __meta_kubernetes_service_annotation_prometheus_io_scheme
        target_label: __scheme__
      - action: replace
        regex: (.+)
        source_labels:        - __meta_kubernetes_service_annotation_prometheus_io_path
        target_label: __metrics_path__
      - action: replace
        regex: ([^:]+)(?::\d+)?;(\d+)
        replacement: $1:$2
        source_labels:        - __address__
        - __meta_kubernetes_service_annotation_prometheus_io_port
        target_label: __address__
      - action: labelmap
        regex: __meta_kubernetes_service_label_(.+)
      - action: replace
        source_labels:        - __meta_kubernetes_namespace
        target_label: kubernetes_namespace
      - action: replace
        source_labels:        - __meta_kubernetes_service_name
        target_label: kubernetes_name
    - job_name: kubernetes-services
      kubernetes_sd_configs:      - role: service
      metrics_path: /probe
      params:        module:        - http_2xx
      relabel_configs:      - action: keep
        regex: true        source_labels:        - __meta_kubernetes_service_annotation_prometheus_io_probe
      - source_labels:        - __address__
        target_label: __param_target
      - replacement: blackbox
        target_label: __address__
      - source_labels:        - __param_target
        target_label: instance
      - action: labelmap
        regex: __meta_kubernetes_service_label_(.+)
      - source_labels:        - __meta_kubernetes_namespace
        target_label: kubernetes_namespace
      - source_labels:        - __meta_kubernetes_service_name
        target_label: kubernetes_name
    - job_name: kubernetes-pods
      kubernetes_sd_configs:      - role: pod
      relabel_configs:      - action: keep
        regex: true        source_labels:        - __meta_kubernetes_pod_annotation_prometheus_io_scrape
      - action: replace
        regex: (.+)
        source_labels:        - __meta_kubernetes_pod_annotation_prometheus_io_path
        target_label: __metrics_path__
      - action: replace
        regex: ([^:]+)(?::\d+)?;(\d+)
        replacement: $1:$2
        source_labels:        - __address__
        - __meta_kubernetes_pod_annotation_prometheus_io_port
        target_label: __address__
      - action: labelmap
        regex: __meta_kubernetes_pod_label_(.+)
      - action: replace
        source_labels:        - __meta_kubernetes_namespace
        target_label: kubernetes_namespace
      - action: replace
        source_labels:        - __meta_kubernetes_pod_name
        target_label: kubernetes_pod_name



prometheus-statefulset.yaml


创建有状态的服务


apiVersion: apps/v1
kind: StatefulSet
metadata:  name: prometheus 
  namespace: kube-system
  labels:    k8s-app: prometheus
    kubernetes.io/cluster-service: "true"    addonmanager.kubernetes.io/mode: Reconcile
    version: latest
spec:  serviceName: "prometheus"  replicas: 1  podManagementPolicy: "Parallel"  updateStrategy:   type: "RollingUpdate"  selector:    matchLabels:      k8s-app: prometheus
  template:    metadata:      labels:        k8s-app: prometheus
      annotations:        scheduler.alpha.kubernetes.io/critical-pod: ''    spec:      priorityClassName: system-cluster-critical
      serviceAccountName: prometheus
      initContainers:      - name: "init-chown-data"        image: "busybox:latest"        imagePullPolicy: "IfNotPresent"        command: ["chown","-R","65534:65534","/data"]        volumeMounts:        - name: prometheus-data
          mountPath: /data
          subPath: ""      containers:        - name: prometheus-server-configmap-reload
          image: "jimmidyson/configmap-reload:latest"          imagePullPolicy: "IfNotPresent"          args:            - --volume-dir=/etc/config
            - --webhook-url=http://localhost:9090/-/reload
          volumeMounts:            - name: config-volume
              mountPath: /etc/config
              readOnly: true          resources:            limits:              cpu: 10m
              memory: 10Mi
            requests:              cpu: 10m
              memory: 10Mi
        - name: prometheus-server
          image: "prom/prometheus:latest"          imagePullPolicy: "IfNotPresent"          args:            - --config.file=/etc/config/prometheus.yml
            - --storage.tsdb.path=/data
            - --web.console.libraries=/etc/prometheus/console_libraries
            - --web.console.templates=/etc/prometheus/consoles
            - --web.enable-lifecycle
          ports:            - containerPort: 9090          readinessProbe:            httpGet:              path: /-/ready
              port: 9090            initialDelaySeconds: 30            timeoutSeconds: 30          livenessProbe:            httpGet:              path: /-/healthy
              port: 9090            initialDelaySeconds: 30            timeoutSeconds: 30          resources:            limits:              cpu: 200m
              memory: 1000Mi
            requests:              cpu: 200m
              memory: 1000Mi
          volumeMounts:            - name: config-volume
              mountPath: /etc/config
            - name: prometheus-data
              mountPath: /data
              subPath: ""      terminationGracePeriodSeconds: 300      volumes:        - name: config-volume
          configMap:            name: prometheus-config
  volumeClaimTemplates:  - metadata:      name: prometheus-data
    spec:      storageClassName: nfs-csi
      accessModes:        - ReadWriteOnce
      resources:        requests:          storage: "16Gi"


注意： prometheus的data，采用pvc，动态存储。

需要自行创建 pv 和pvc 。这里的pvc 为 nfs-csi

image.png



prometheus-service.yaml




kind: Service
apiVersion: v1
metadata:   name: prometheus
  namespace: kube-system
  labels:     kubernetes.io/name: "Prometheus"    kubernetes.io/cluster-service: "true"    addonmanager.kubernetes.io/mode: Reconcile
spec:   type: NodePort
  ports:     - name: http 
      port: 9090      protocol: TCP
      targetPort: 9090      nodePort: 30090  selector:     k8s-app: prometheus


注意：指定服务类型为NodePort

image.png



创建prometheus：

kubectlapply-f.


image.png



访问prometheus 控制台


http://192.168.10.201:30090/


image.png



动态服务发现：


image.png




文章标签：
容器服务Kubernetes版
可观测监控 Prometheus 版
容器
Cloud Native
监控
Linux
Kubernetes
存储
Prometheus
关键词：
容器服务Kubernetes版集群
监控可观测监控 Prometheus 版
容器服务Kubernetes版部署
容器服务Kubernetes版监控prometheus
容器服务Kubernetes版监控
相关实践学习
深入解析Docker容器化技术
Docker是一个开源的应用容器引擎，让开发者可以打包他们的应用以及依赖包到一个可移植的容器中，然后发布到任何流行的Linux机器上，也可以实现虚拟化，容器是完全使用沙箱机制，相互之间不会有任何接口。Docker是世界领先的软件容器平台。开发人员利用Docker可以消除协作编码时“在我的机器上可正常工作”的问题。运维人员利用Docker可以在隔离容器中并行运行和管理应用，获得更好的计算密度。企业利用Docker可以构建敏捷的软件交付管道，以更快的速度、更高的安全性和可靠的信誉为Linux和Windows Server应用发布新功能。 在本套课程中，我们将全面的讲解Docker技术栈，从环境安装到容器、镜像操作以及生产环境如何部署开发的微服务应用。本课程由黑马程序员提供。     相关的阿里云产品：容器服务 ACK 容器服务 Kubernetes 版（简称 ACK）提供高性能可伸缩的容器应用管理能力，支持企业级容器化应用的全生命周期管理。整合阿里云虚拟化、存储、网络和安全能力，打造云端最佳容器化应用运行环境。 了解产品详情: https://www.aliyun.com/product/kubernetes
游客tehculasawvxq
目录
相关文章
容器小师妹
|
4月前
|
资源调度 Kubernetes 调度
从单集群到多集群的快速无损转型：ACK One 多集群应用分发
ACK One 的多集群应用分发，可以最小成本地结合您已有的单集群 CD 系统，无需对原先应用资源 YAML 进行修改，即可快速构建成多集群的 CD 系统，并同时获得强大的多集群资源调度和分发的能力。
容器小师妹
156 9
阿里云云原生
|
4月前
|
资源调度 Kubernetes 调度
从单集群到多集群的快速无损转型：ACK One 多集群应用分发
本文介绍如何利用阿里云的分布式云容器平台ACK One的多集群应用分发功能，结合云效CD能力，快速将单集群CD系统升级为多集群CD系统。通过增加分发策略（PropagationPolicy）和差异化策略（OverridePolicy），并修改单集群kubeconfig为舰队kubeconfig，可实现无损改造。该方案具备多地域多集群智能资源调度、重调度及故障迁移等能力，帮助用户提升业务效率与可靠性。
阿里云云原生
178 8
蓝易云
|
6月前
|
存储 Kubernetes 监控
K8s集群实战：使用kubeadm和kuboard部署Kubernetes集群
总之，使用kubeadm和kuboard部署K8s集群就像回归童年一样，简单又有趣。不要忘记，技术是为人服务的，用K8s集群操控云端资源，我们不过是想在复杂的世界找寻简单。尽管部署过程可能遇到困难，但朝着简化复杂的目标，我们就能找到意义和乐趣。希望你也能利用这些工具，找到你的乐趣，满足你的需求。
蓝易云
611 33
蓝易云
|
6月前
|
Prometheus Kubernetes 监控
Kubernetes监控：Prometheus与AlertManager结合，配置邮件告警。
完成这些步骤之后，您就拥有了一个可以用邮件通知你的Kubernetes监控解决方案了。当然，所有的这些配置都需要相互照应，还要对你的Kubernetes集群状况有深入的了解。希望这份指南能帮助你创建出适合自己场景的监控系统，让你在首次发现问题时就能做出响应。
蓝易云
303 22
蓝易云
|
6月前
|
Kubernetes 开发者 Docker
集群部署：使用Rancher部署Kubernetes集群。
以上就是使用 Rancher 部署 Kubernetes 集群的流程。使用 Rancher 和 Kubernetes，开发者可以受益于灵活性和可扩展性，允许他们在多种环境中运行多种应用，同时利用自动化工具使工作负载更加高效。
蓝易云
347 19
阿里云基础设施.
|
6月前
|
人工智能 分布式计算 调度
打破资源边界、告别资源浪费：ACK One 多集群Spark和AI作业调度
ACK One多集群Spark作业调度，可以帮助您在不影响集群中正在运行的在线业务的前提下，打破资源边界，根据各集群实际剩余资源来进行调度，最大化您多集群中闲置资源的利用率。
阿里云基础设施.
246 26
阿里云基础设施.
|
9月前
|
Prometheus Kubernetes 监控
OpenAI故障复盘 - 阿里云容器服务与可观测产品如何保障大规模K8s集群稳定性
聚焦近日OpenAI的大规模K8s集群故障，介绍阿里云容器服务与可观测团队在大规模K8s场景下我们的建设与沉淀。以及分享对类似故障问题的应对方案：包括在K8s和Prometheus的高可用架构设计方面、事前事后的稳定性保障体系方面。
阿里云基础设施.
581 60
技术小达人
|
6月前
|
Prometheus Kubernetes 监控
OpenAI故障复盘丨如何保障大规模K8s集群稳定性
OpenAI故障复盘丨如何保障大规模K8s集群稳定性
技术小达人
206 0
OpenAI故障复盘丨如何保障大规模K8s集群稳定性
阿里云基础设施.
|
8月前
|
缓存 容灾 网络协议
ACK One多集群网关：实现高效容灾方案
ACK One多集群网关可以帮助您快速构建同城跨AZ多活容灾系统、混合云同城跨AZ多活容灾系统，以及异地容灾系统。
阿里云基础设施.
270 19
阿里云基础设施.
|
7月前
|
运维 分布式计算 Kubernetes
ACK One多集群Service帮助大批量应用跨集群无缝迁移
ACK One多集群Service可以帮助您，在无需关注服务间的依赖，和最小化迁移风险的前提下，完成跨集群无缝迁移大批量应用。
阿里云基础设施.
124 0

热门文章

最新文章

  • 1
    关于阿里云 Kubernetes 容器服务（ACK）添加镜像仓库的快速说明
  • 2
    基于 Azure DevOps 与阿里云 ACK 构建企业级 CI/CD 流水线
  • 3
    Kubernetes 1.5配置Job
  • 4
    Kubernetes（K8s）基础与入门指南
  • 5
    Argo 项目入驻 CNCF，一文解析 Kubernetes 原生工作流
  • 6
    二进制安装Kubernetes（k8s） v1.22.10 IPv4/IPv6双栈
  • 7
    rancher备份K8S集群数据到minio方案
  • 8
    k8s pvc详解
  • 9
    简单操作：10分钟实现在kubernetes(k8s)里面部署服务器集群并访问项目（docker三）
  • 10
    【k8s】多节点master部署k8s集群详解、步骤带图、配置文件带注释（下）
  • 1
    在 HBase 集群中，Prometheus 通常监控哪些类型的性能指标？
    259
  • 2
    [prometheus]基于consul的服务发现
    204
  • 3
    [prometheus]基于influxdb2实现远端存储
    456
  • 4
    简单搭建基本Prometheus监控系统
    240
  • 5
    [prometheus]配置alertmanager和钉钉告警
    786
  • 6
    基于Prometheus搭建监控平台
    183
  • 7
    使用prometheus来避免Kubernetes CPU Limits造成的事故
    248
  • 8
    Prometheus 监控系统常见技术问题大曝光！解决之道让你意想不到！
    855
  • 9
    支持remote write和exemplar的prometheus服务
    164
  • 10
    解析Prometheus PromQL
    147

    • 相关课程

    更多
  • 阿里云 EMR on ACK 实战
  • 阿里云K8S微服务部署案例
  • Kubernetes极速入门
  • Serverless 容器从入门到精通: - Serverless Kubernetes
  • Kubernetes云原生管理实践
  • Kubernetes入门

    • 相关电子书

    更多
  • ACK 云原生弹性方案—云原生时代的加速器
  • ACK集群类型选择最佳实践
  • 企业运维之云原生和Kubernetes 实战

    • 推荐镜像

    更多
  • kubernetes
    • 下一篇
    2025云栖大会，阿里云百炼邀请您的参与和见证