带你读《企业级云原生白皮书项目实战》——5.1.4 集群监控告警(7)

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: 带你读《企业级云原生白皮书项目实战》——5.1.4 集群监控告警(7)

《企业级云原生白皮书项目实战》——第五章 大数据——5.1 检索分析服务 Elasticsearch版——5.1.4 集群监控告警(6) https://developer.aliyun.com/article/1228833?groupCode=supportservice


5.1.4.3 Kibana监控告警

5.1.4.3.1 Kibana监控

kibana监控分为Elasticsearch和Kibana两个服务,其中Elasticsearch日常使用较多的主要是Overview、Nodes、Indices三个模块。Overview、Nodes、Indices都是可以看到集群的整体状态、节点数量、数索引数、shard数量、文档数量、存储大小等数据。

Overview是监控概览,可以查看到集群整体的查询和索引的速率和延迟,需要注意的是Search Rate (/s)是每秒主分片和副本分片的整体请求速率,而Indexing Rate (/s)是每秒写入的文档数量。

Nodes是节点维度监控数据,可以看到每个节点的状态、UPU、负载、jvm 内存、磁盘空闲空间、shard数量。

indices是索引维度监控数据,可以查看到索引的名字、索引的状态、索引文档数量、索引数据大小、索引的写入速率、索引的查询速率,以及未分配的shard数量。

而Kibana主要有Overview和Instances两个模块,其中Overview是概览,主要可以查看到实例状态、节点数量、整体内存和当前使用内存、请求数量、客户端数量、最大响应时间,客户端请求总量、客户端响应时间(最大值和平均值),而Instances可以看到实例维度的状态、负载平均值、当前使用内存大小、请求数量、响应时间。


5.1.4.3.2 Kibana告警

kibana的告警能力是基于X-Pack Watcher的,X-Pack Watcher功能主要由Trigger、Input、Condition和Actions四部分组成,详细说明如下TriggerWatcher定时触发器,即多久触发一次Watcher,相当于多久执行一次input。支持多种调度触发器,详细信息请参见Schedule Trigger。

InputInput将数据加载到执行上下文,用于后续的Watcher执行阶段,如果input没有指定,将会加载一个空上下文,详细信息请参见Inputs。Watcher支持以下input类型:

•simple:将输入静态数据加载到执行上下文。例如手动输入一段简单的数据进行报警。

•search:将搜索结果加载到执行上下文。例如全文搜索关键词,对搜索结果进行统计实现报警。

•http:将HTTP请求结果加载到执行上下文。例如通过Elasticsearch请求接口获取集群健康状态、节点状态等实现报警。

•chain:将一系列的输入数据加载到执行上下文,这些数据一般是来自多个源。

Condition执行Actions的条件。即满足条件将会触发下一步操作,如果不指定条件,默认为always,详细信息请参见Conditions。Watcher支持以下condition类型:

•always:条件总为true,始终执行Watcher Actions。

•nerver:条件总为false,从不执行Watcher Actions。

•compare:对Watcher有效负载中的值进行简单比较,以确定是否执行Watcher Actions。

•array_compare:将Watcher有效负载中的值数组与给定值进行比较,以确定是否执行Watcher Actions。

•script:使用脚本确定是否执行Watcher Actions。

Actions报警接收对象,常见的报警接收对象包括邮件、Webhook 、index和logging等,详细信息请参见Actions。

由于 Kibana告警是依赖ES本身的服务,所以实际的告警数据,是ES集群节点发送出来的,这样需考虑下网络联通性,自2020年10月起,阿里云Elasticsearch对不同地域进行了网络架构的调整,对创建的实例有以下影响,2020年10月之前创建的实例均在旧网络架构下,即Elasticsearch实例处于用户VPC下,如果需要访问公网,可以直接使用SNAT功能或自建Nginx代理。2020年10月及之后创建的实例均在

新网络架构下,即Elasticsearch实例处于Elasticsearch服务VPC下,X-Pack Watcher功能受到网络限制,为解决此问题,阿里云Elasticsearch提供了实例私网连接方案,也就是PrivateLink方案,详细网络架构我们在5.1.7.1.3章节有说明。如果还需要将报警信息推送至公网环境,在通过实例私网连接打通Elasticsearch服务VPC和用户VPC的基础上,还需对负载均衡后端服务配置Nginx代理或开启SNAT功能实现公网信息推送。

注意:通过邮件接收报警存在端口限制,阿里云Elasticsearch不支持,建议通过Webhook进行邮件转发。


《企业级云原生白皮书项目实战》——第五章 大数据——5.1 检索分析服务 Elasticsearch版——5.1.4 集群监控告警(8) https://developer.aliyun.com/article/1228828?groupCode=supportservice

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
3月前
|
自然语言处理 大数据 应用服务中间件
大数据-172 Elasticsearch 索引操作 与 IK 分词器 自定义停用词 Nginx 服务
大数据-172 Elasticsearch 索引操作 与 IK 分词器 自定义停用词 Nginx 服务
80 5
|
3月前
|
存储 分布式计算 大数据
大数据-169 Elasticsearch 索引使用 与 架构概念 增删改查
大数据-169 Elasticsearch 索引使用 与 架构概念 增删改查
76 3
|
18天前
|
弹性计算 运维 Serverless
超值选择:阿里云Elasticsearch Serverless在企业数据检索与分析中的高性能与灵活性
本文介绍了阿里云Elasticsearch Serverless服务的高性价比与高度弹性灵活性。
106 8
|
14天前
|
存储 负载均衡 监控
揭秘 Elasticsearch 集群架构,解锁大数据处理神器
Elasticsearch 是一个强大的分布式搜索和分析引擎,广泛应用于大数据处理、实时搜索和分析。本文深入探讨了 Elasticsearch 集群的架构和特性,包括高可用性和负载均衡,以及主节点、数据节点、协调节点和 Ingest 节点的角色和功能。
36 0
|
3月前
|
JSON Java 网络架构
elasticsearch学习四:使用springboot整合 rest 进行搭建elasticsearch服务
这篇文章介绍了如何使用Spring Boot整合REST方式来搭建和操作Elasticsearch服务。
157 4
elasticsearch学习四:使用springboot整合 rest 进行搭建elasticsearch服务
|
3月前
|
Kubernetes Cloud Native 云计算
云原生之旅:Kubernetes 集群的搭建与实践
【8月更文挑战第67天】在云原生技术日益成为IT行业焦点的今天,掌握Kubernetes已成为每个软件工程师必备的技能。本文将通过浅显易懂的语言和实际代码示例,引导你从零开始搭建一个Kubernetes集群,并探索其核心概念。无论你是初学者还是希望巩固知识的开发者,这篇文章都将为你打开一扇通往云原生世界的大门。
149 17
|
3月前
|
SQL 分布式计算 NoSQL
大数据-170 Elasticsearch 云服务器三节点集群搭建 测试运行
大数据-170 Elasticsearch 云服务器三节点集群搭建 测试运行
60 4
|
3月前
|
存储 JSON 监控
大数据-167 ELK Elasticsearch 详细介绍 特点 分片 查询
大数据-167 ELK Elasticsearch 详细介绍 特点 分片 查询
62 4
|
3月前
|
自然语言处理 Java Maven
elasticsearch学习二:使用springboot整合TransportClient 进行搭建elasticsearch服务
这篇博客介绍了如何使用Spring Boot整合TransportClient搭建Elasticsearch服务,包括项目创建、Maven依赖、业务代码和测试示例。
149 0
elasticsearch学习二:使用springboot整合TransportClient 进行搭建elasticsearch服务
|
3月前
|
运维 监控 数据可视化
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
96 1