MetricBeat 采集 Kubernetes 状态

本文涉及的产品
Elasticsearch Serverless通用抵扣包,测试体验金 200元
简介: Kubernetes 本身命令行界面去管理集群内的资源对象,例如有需求想查看某一些Pod在任意的时间段性能的使用情况,如何通过 Elastic Stack 进行一站式的数据采集,数据清洗,数据落地,数据可视化,让数据发挥真正的价值呢?

> Kubernetes 本身命令行界面去管理集群内的资源对象,例如有需求想查看某一些Pod在任意的时间段性能的使用情况,如何通过 Elastic Stack 进行一站式的数据采集,数据清洗,数据落地,数据可视化,让数据发挥真正的价值呢?


#### 架构设计

涉及到 Elastic Stack 中 Metricbeat 是用于采集 Kubernetes 相关的性能指标, Elasticsearch 是用于对于数据落地存储和搜索的引擎, Kibana 是用于对数据可视化的工具。

image.jpeg

首先 Kubernetes 需要部署  Kuberentes State Metric 以支持 Metricbeat 对响应的 API 进行数据采集。

#### 实施方法


下载官方的模板在本地文件系统

wget https://raw.githubusercontent.com/elastic/beats/7.9/deploy/kubernetes/metricbeat-kubernetes.yaml


修改 ConfigMap 中指定的 Elasticsearch 主机相关的配置,并添加 Kibana的主机

output.elasticsearch:
hosts: ['http://elasticsearch:9200']
username: elasticpassword: xxxsetup.kibana:
host: "kibana:5601"


应用 YAML 配置创建对应的 Kubernetes 资源

kubectl apply -f metricbeat-kubernetes.yaml


进入 Pod 修改配置

kubectl exec -it metricbeat-xxx /bin/bash


设置 Metricbeat 创建 Kibana上的 Index Pattern 和 Dashboard

metricbeat setup


#### 可视化展示

通过 Kibana 中的 Dashboard 功能

展示目前 Kubernetes 中的资源对象运行情况

image.jpeg




相关实践学习
深入解析Docker容器化技术
Docker是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器上,也可以实现虚拟化,容器是完全使用沙箱机制,相互之间不会有任何接口。Docker是世界领先的软件容器平台。开发人员利用Docker可以消除协作编码时“在我的机器上可正常工作”的问题。运维人员利用Docker可以在隔离容器中并行运行和管理应用,获得更好的计算密度。企业利用Docker可以构建敏捷的软件交付管道,以更快的速度、更高的安全性和可靠的信誉为Linux和Windows Server应用发布新功能。 在本套课程中,我们将全面的讲解Docker技术栈,从环境安装到容器、镜像操作以及生产环境如何部署开发的微服务应用。本课程由黑马程序员提供。     相关的阿里云产品:容器服务 ACK 容器服务 Kubernetes 版(简称 ACK)提供高性能可伸缩的容器应用管理能力,支持企业级容器化应用的全生命周期管理。整合阿里云虚拟化、存储、网络和安全能力,打造云端最佳容器化应用运行环境。 了解产品详情: https://www.aliyun.com/product/kubernetes
目录
相关文章
|
存储 数据采集 Kubernetes
一文详解K8s环境下Job类日志采集方案
本文介绍了K8s中Job和Cronjob控制器用于非常驻容器编排的场景,以及Job容器的特点:增删频率高、生命周期短和突发并发大。文章重点讨论了Job日志采集的关键考虑点,包括容器发现速度、开始采集延时和弹性支持,并对比了5种采集方案:DaemonSet采集、Sidecar采集、ECI采集、同容器采集和独立存储采集。对于短生命周期Job,建议使用Sidecar或ECI采集,通过调整参数确保数据完整性。对于突发大量Job,需要关注服务端资源限制和采集容器的资源调整。文章总结了不同场景下的推荐采集方案,并指出iLogtail和SLS未来可能的优化方向。
|
Kubernetes API Docker
跟着iLogtail学习容器运行时与K8s下日志采集方案
iLogtail 作为开源可观测数据采集器,对 Kubernetes 环境下日志采集有着非常好的支持,本文跟随 iLogtail 的脚步,了解容器运行时与 K8s 下日志数据采集原理。
|
存储 Kubernetes Java
在k8S中,容器内日志是怎么采集的?
在k8S中,容器内日志是怎么采集的?
|
数据采集 Kubernetes 监控
Kubernetes 文件采集实践:Sidecar + hostPath 卷
在Kubernetes 日志查询分析实践中,我们介绍了如何通过 DaemonSet 方式部署 logtail 并采集标准输出/文件两种形式的数据。DaemonSet 部署的优势在于其能够尽可能地减少采集 agent 所占用的资源且支持标准输出采集,但因为每个 DaemonSet pod 需要负责 n...
513 1
Kubernetes 文件采集实践:Sidecar + hostPath 卷
|
Kubernetes 监控 Docker
阿里云SLS 容器采集全面兼容Kubernetes
iLogtail致力于打造覆盖Trace、Metrics 以及Logging 的可观测性的统一Agent,而对Kubernetes 语义的原生支持大大增强了Log在Kubernetes场景的采集体验。
516 6
阿里云SLS 容器采集全面兼容Kubernetes
|
存储 缓存 Kubernetes
聊一聊K8s Operator在日志采集器中的应用
Kubernetes提供了自定义资源(Custom Resource)和K8s Operator为应用程序的部署提供扩展。本文调研了K8s Operator在各个日志采集器中的应用场景与架构。
1112 0
|
存储 数据采集 Kubernetes
一文详解K8s环境下Job类日志采集方案
一文详解K8s环境下Job类日志采集方案
一文详解K8s环境下Job类日志采集方案
|
Kubernetes 网络协议 API
Kubernetes Kubelet 状态更新机制
Kubernetes Kubelet 状态更新机制
Kubernetes Kubelet 状态更新机制
|
存储 Kubernetes 监控
K8s挂载PVC日志采集“轻量级”玩法
本文介绍一种使用K8s挂载PVC日志采集时的轻量级部署方式。
1535 1
K8s挂载PVC日志采集“轻量级”玩法
|
存储 Kubernetes 监控
使用 Kubernetes 监控定位 Pod 状态异常根因 | 学习笔记
快速学习 使用 Kubernetes 监控定位 Pod 状态异常根因
1008 0
使用 Kubernetes 监控定位 Pod 状态异常根因 | 学习笔记