容器监控与分析实践(三)| 学习笔记

本文涉及的产品
容器镜像服务 ACR,镜像仓库100个 不限时长
简介: 快速学习容器监控与分析实践。

开发者学堂课程【DevOps 日志分析实战 :容器监控与分析实践(三)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/736/detail/13101


容器监控与分析实践(三)

四、部署 Prometheus 监控操作与演示

1.登录容器服务管理控制台

image.png

2.创建命名空间

(1)在左侧导航栏中,单击命名空间

(2)单击创建

(3)配置名称为 monitoring,并单击确定

image.png

3.创建保密字典

(1)在左侧导航栏中,选择应用配置>保密字典

(2)选择 monitoring 这个命名空间,单击创建(名为 sls-ak,并默认将子账号的 ak 申请完成)

(3)配置如下参数,单击确定

image.png 

参数

说明

名称

配置为 sls-ak

命名空间

选中在步骤2中创建的命名空间,即 monitoring

类型

选中 Opaque,并添加知下两个键值对。

·名称为username,值为您的RAM用户的AccessKeylD。

·名称为password,值为您的RAM用户的AccessKeySecrete

建议您使用只具备日志服务 Project 写入权限的 PAM 用户的 AccessKey.

详情请参见授予指定 Project 写入权限。

4.创建 prometheus-operator

(1)在应用市场,点击应用目录>运维/可观测性

(2)然后单击 ack-prometheus-operator,将集群选择为 sls-zc-test

image.png

(3)还需要调整参数:

调整 prometheusSpec 下的 retention,建议修改为1d或12h。

将 tsdb 下的 enabla 设置为 true,并增加 remoteWrite配置。

remoteWrite 配置中的 ur1 为日志服务 Metricstore 的 URL,请根据实际值替换。格式为https:// {project}.{sls-enpoint}/prometheus/{project}/{metricstore}/api/v1/write。其中 {sls-enpoint} 为日志服务的Endpoint,详情请参见服务入口,{project} 和{metricstore} 为您已创建的日志版务的 Project 和 Metricstore

remoteWrite 配置:

image.png

根据创建的 Metricstore 调整,所以先创建一个新的 Project 。

创建完成 Project 后在时序库中创建一个 Metricstore(名为 prom),创建完成后可以看到以下信息:
image.png

后面要将上面的配置填入 remoteWrite 配置,如下:

url:https://k8s-prom-bj.cn-beijing-intranet.log.aliyuncs .com/promatheus/k8s-5-prom-bj/prom/ api. /v1/write

prometheus-operator 即创建完成。

5.然后配置 Grafana,简单安装 Grafana 即可

Grafana 的安装非常简单,直接安装官网的 Grafana(按照官网的方式按照即可)

使用 Grafana 访问 Promotheus 数据

(1)登录 Grafanae

(2)在左侧导航栏,单击设置标> Data Sources。

(3)在 Data Sources 页签。单击 Add data source。

(4)单击 Prometheus 区城中的 Select.

(5)在 Settings 页签中,配置如下参数。

参数

说明

Name

配置数据源名称,例如Prometheus-01

HTTP

日志服务 Metricstore 的URL:格式为https:// {project}.{sls-enpoint}/prometheus/{project}/{metricstore}。其中 {sls-enpoint} 为日志服务的Endpoint,详情请参见服务入口,{project} 和{metricstore} 为您已创建的日志版务的 Project 和 Metricstore。例如:url:https://k8s-prom-bj.cn-beijing-intranet.log.aliyuncs .com/promatheus

Whitellsted Cookies:添加访问白名单,可选

Ayth

只需要打开 Basic auth 开关

Basic Auth Detals

User为阿里云账号的 AecessKaeylD。

Password 为阿里云账号的 AccessKeySecret。

建议您使用具备日志联务Project只读权限的RAM用户的AccessKey。详情请参见授予指定Project 只读权限。

配置为:

image.png

然后点击 Save&Test

完成后可以查询到采集完成的数据:

image.png

在 SLS 控制台也能查询:
image.png

注意查询方式不同,在控制台的查询方式为 promick 加 SQL 的方式,在 Grafana 上默认方式填入,还可以做一些过滤:

image.png

导入模板,可以直接搜索 grefana dashboard 的模板,可以直接使用

例如直接搜索 Kubernetes ,点击 Kubernetes Deployment Statefulset Daemonset metrics,然后复制其 id即可导入

点击加号中的 import:

image.png

将其 id 粘贴,即导入完成:

image.png

导入完成后会根据一些查询条件,实际场景的需求做一些定制。

6.手动开启事件中心操作与演示

事件中心的开通比较方便,事件中心与容器服务做了集成。

在容器服务,如果正常的创建集群的过程(设置集群名称,选择 k8s,集群配置,组建配置,确认配置)

注意:组建配置中,默认将日志服务和 node-problem-detector放入,所以默认勾选即可,也可以勾选 Ingress Dashboard。如果不安装 node-problem-detector 也可以在组件管理中开启。

手动开启:

点击集群,找到组件管理,可以找到 node-problem-detector。如果没有安装则点击安装即可自动安装,自动安装后默认开启事件中心。

日志的组件也是如此(但默认都是已经安装,可以直接使用)

7.分析 Ingress 日志操作与演示

如果没有安装 Ingress ,可以点击集群中的连接信息:

image.png

点击通过 Cloud Shell 管理集群即可。

登录 Cloud Shell 就默认用命令行操作。

可以创建一个 Ingress 的监控,monitoring 的一个 yaml,语句为:

vim ingress-monitoring.yaml

然后将 yaml 代码粘贴并保存

并将其应用,输入语句 kubectl apply -t ingress – monitoring.yaml

到此即完成了 Ingress 的监控

对于 Ingress ,之前默认创建集群都会有 Ingress (可能数据较少)

image.png

也有各种 Ingress 的大盘(里面数据还没有流量):

image.png

看到另一个账号中的 Ingress 数据:

image.png

其中有各种类型的指标在其左侧可以点击快速看到各类型的的数据。

还可以做自定义的查询,例如:method :Get(也可以查 not method :Get)

(查询 method 是 get 的请求)

image.png

还可以分析一些状态码的分布:not method :Get | SELECT status,count(1) as total group by status

(非 get 请求的 status 分布)

image.png

上图可视化是表格的形式也可以选择饼图的形式(较直接),也可以选择柱状图、条形图的形式。

8.高级用法:

查询分析行输入

not method :Get | SELECT ip_to_province(x_forward_for) as total group by p order by total desc

image.png

可以查询到各种省份分布的信息。

也可以输入:

*| SELECT ip_to_province(x_forward_for) as total group by p order by total desc

得到省份分布信息

点击地图:

image.png

会按照中国地图的省份自动变为可视化,数量越高地图上省份颜色越深

还可以使用其他地图查看(高德地图不支持,需要用经纬度查看),世界地图需要将查询改为:

*| SELECT ip_to_country(x_forward_for) as total group by p order by total desc

得到:

image.png

热力图和高德地图:

*| SELECT ip_to_city_goo(x_forward_for) as total group by p order by total desc

image.png

image.png

该账号的 Ingress 的数据为:

image.png

展示了现有的 PV 、移动端 ois 的占比、平均的延时、Top 的一些指标、top 的延迟、top 的错误等等

Ingress Host 中的数据都可以按照不同的维度做过滤操作。

仪表盘还有监控中心,具体每一个服务的监控:

image.png

该处监控指标更加丰富,包括 PV、流量、错误比例、各种平均延时等等,还有一些统计类型,这样非常方便的从图上得到各种各样的指标,但是这些指标背后都是基于访问日志分析出来的。

可以点击预览语句:

image.png

可以看到具体是如何实现的。

也可以跳转到查询分析(原始数据),会自动将 select 填入:

image.png

事件中心:

将各种各样的告警的维度列出来:

image.png

各种告警都可以截取配置:

image.png

还可以添加通知方式:

(可以多个渠道并行通知)

image.png

默认的事件也会被排列出来,有哪些非常重要的事件需要关注,还有一些 OMM 的事件、Pod 驱逐事件。比较关键的事件都会被列出信息。

Kubernetes 事件查询:
例如担心 Waring 等级的事件,可以只过滤某一种类型的事件,如下:

image.png

然后可以看到这些事件的详细信息,其背后对应的也是日志查询的方式,如果有需求可以基于这种日志查询方式去做一些定制化。

整体上说,是基于 SLS 去构建除了整个 K8s 的监控,包括Grafans 中基础的指标,平均 cpu 内存的使用率等等,也可以得到系统内部的实践,例如目前节点被删除,pod 被丢,pod 被销毁等等,这些事件会告诉然后方便直接做告警。Ingress 是可以基于 Ingress 的访问日志去做各种各样的服务的质量,还有自己业务日志的监控,业务日志的监控需要自己配置一些参数以及策略(该部分有非常丰富的文档来操作)

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
相关文章
|
13天前
|
Kubernetes Cloud Native Docker
云原生时代的容器化实践:Docker和Kubernetes入门
【10月更文挑战第37天】在数字化转型的浪潮中,云原生技术成为企业提升敏捷性和效率的关键。本篇文章将引导读者了解如何利用Docker进行容器化打包及部署,以及Kubernetes集群管理的基础操作,帮助初学者快速入门云原生的世界。通过实际案例分析,我们将深入探讨这些技术在现代IT架构中的应用与影响。
55 2
|
2月前
|
Linux iOS开发 Docker
Docker:容器化技术的领航者 —— 从基础到实践的全面解析
在云计算与微服务架构日益盛行的今天,Docker作为容器化技术的佼佼者,正引领着一场软件开发与部署的革命。它不仅极大地提升了应用部署的灵活性与效率,还为持续集成/持续部署(CI/CD)提供了强有力的支撑。
244 69
|
14天前
|
Kubernetes Cloud Native Docker
云原生技术探索:容器化与微服务的实践之道
【10月更文挑战第36天】在云计算的浪潮中,云原生技术以其高效、灵活和可靠的特性成为企业数字化转型的重要推手。本文将深入探讨云原生的两大核心概念——容器化与微服务架构,并通过实际代码示例,揭示如何通过Docker和Kubernetes实现服务的快速部署和管理。我们将从基础概念入手,逐步引导读者理解并实践云原生技术,最终掌握如何构建和维护一个高效、可扩展的云原生应用。
|
15天前
|
Cloud Native 持续交付 Docker
Docker容器化技术:从入门到实践
Docker容器化技术:从入门到实践
|
16天前
|
存储 Kubernetes 调度
基于容器化技术的性能优化实践
基于容器化技术的性能优化实践
25 3
|
23天前
|
Kubernetes 负载均衡 Cloud Native
云原生应用:Kubernetes在容器编排中的实践与挑战
【10月更文挑战第27天】Kubernetes(简称K8s)是云原生应用的核心容器编排平台,提供自动化、扩展和管理容器化应用的能力。本文介绍Kubernetes的基本概念、安装配置、核心组件(如Pod和Deployment)、服务发现与负载均衡、网络配置及安全性挑战,帮助读者理解和实践Kubernetes在容器编排中的应用。
68 4
|
24天前
|
Kubernetes 监控 Cloud Native
云原生应用:Kubernetes在容器编排中的实践与挑战
【10月更文挑战第26天】随着云计算技术的发展,容器化成为现代应用部署的核心趋势。Kubernetes(K8s)作为容器编排领域的佼佼者,以其强大的可扩展性和自动化能力,为开发者提供了高效管理和部署容器化应用的平台。本文将详细介绍Kubernetes的基本概念、核心组件、实践过程及面临的挑战,帮助读者更好地理解和应用这一技术。
58 3
|
1月前
|
Kubernetes 监控 开发者
专家级实践:利用Cloud Toolkit进行微服务治理与容器化部署
【10月更文挑战第19天】在当今的软件开发领域,微服务架构因其高可伸缩性、易于维护和快速迭代的特点而备受青睐。然而,随着微服务数量的增加,管理和服务治理变得越来越复杂。作为阿里巴巴云推出的一款免费且开源的开发者工具,Cloud Toolkit 提供了一系列实用的功能,帮助开发者在微服务治理和容器化部署方面更加高效。本文将从个人的角度出发,探讨如何利用 Cloud Toolkit 来应对这些挑战。
35 2
|
1月前
|
存储 运维 云计算
探索Docker容器化:从入门到实践
在这个快速发展的云计算时代,Docker容器化技术正在改变应用的开发、部署和管理方式。本文旨在为初学者提供一个关于Docker的全面入门指南,并通过实践案例展示Docker在实际开发中的应用。我们将一起了解Docker的核心概念、基本操作、网络和存储,以及如何构建和部署一个简单的Web应用。无论你是开发者还是运维人员,本文都会帮助你快速掌握Docker的核心技能。
|
15天前
|
数据中心 开发者 Docker
理解并实践Docker容器化技术
理解并实践Docker容器化技术
下一篇
无影云桌面