使用阿里云Elasticsearch快速搭建智能运维系统

本文涉及的产品
云服务器 ECS,每月免费额度280元 3个月
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
云服务器ECS,u1 2核4GB 1个月
简介: 阿里云Elasticsearch兼容开源ELK功能,提供免运维全托管服务的弹性云搜索与分析引擎,致力于数据库加速、数据分析、信息检索、智能运维监控等场景服务;独有的云原生高性能内核、达摩院NLP分词、向量检索、智能运维、免费X-Pack高级商业特性等能力,全面提升企业应用效率,降低成本。

1. 登录集群

  1. 在右侧远程桌面中打开浏览器,复制左侧云产品资源中提供的阿里云子用户名称和密码登录控制台。
  2. 复制如下阿里云Elasticsearch控制台地址至浏览器地址栏,登录Elasticsearch控制台。

说明:您可以在云产品资源列表查看已创建的资源信息,例如:IP地址、用户名密码和资源所在地域等。

https://elasticsearch-cn-hangzhou.console.aliyun.com


2. 登录Kibana,开启自动创建索引功能

  1. 在右侧概览页面Elasticsearch区域中,单击集群管理。
  2. 在Elasticsearch实例列表中,单击实例ID
  3. 在左侧导航栏,选择配置与管理 > 可视化控制
  4. 在Kibana区域中,单击修改配置
  5. 开启Kibana私网访问,此变更过程需等待3-5分钟。
  6. 返回上级页面,在Kibana区域中,单击公网入口
  7. 复制左侧云产品资源列表下的Elasticsearch登录名Elasticsearch登录密码,至Kibana登录页面的账号和密码,单击登录
  8. 在登录成功页面,单击Explore on my own
  9. 在左侧导航栏,单击Dev Tools(开发工具),再单击Go to work
  10. 在Console页签下,执行如下命令,开启阿里云ES实例的自动创建索引功能。
PUT _cluster/settings{"persistent":{"action.auto_create_index":"true"}}

开启成功后,结果如下。

{
  "acknowledged" : true,
  "persistent" : {
    "action" : {
      "auto_create_index" : "true"
    }
  },
  "transient" : { }
}

3. 使用Metricbeat采集ECS上的系统数据

  1. 返回阿里云Elasticsearch管理控制台,单击Beats数据采集 > 创建采集器。

  1. 在创建采集器窗口中,单击Metricbeat

  1. 在系统弹出的确定服务授权对话框,单击确认,授权创建服务关联角色。

  1. 在采集器配置向导中,输入或选择采集器信息,复制左侧云产品资源列表下的Elasticsearch登录名Elasticsearch登录密码,至用户名密码。

  1. metricbeat.yml中末尾添加如下脚本,单击下一步

metricbeat.modules:
- module:systemmetricsets:- cpu- load- memory- network- process- process_summary- uptime- socket_summary- core- diskio- filesystem- fsstatenabled:trueperiod:10sprocesses:['.*']cpu.metrics:["percentages"]core.metrics:["percentages"]
  1. 选择采集器安装的ECS实例。

  1. 启动采集器并查看采集器安装情况,此生效过程需等待3~5分钟。
  1. 单击启动。启动成功后,系统弹出启动成功对话框。
  2. 单击前往采集中心查看,在采集器管理区域中,查看启动成功的Metricbeat采集器,等待采集器状态变为已生效1/1。
  1. 返回Kibana页面,在左侧导航栏,单击Dev Tools(开发工具)
  2. 在Console页签下,执行如下命令,查看索引。
GET _cat/indices?v

索引创建成功后,结果如下。

  1. 在左侧导航栏,单击Dashboard,搜索[Metricbeat System] Overview

  1. 单击进入[Metricbeat System] Overview页面,再单击Host Overview,可查看监控仪表板。

4. 使用Filebeat采集ECS上的Nginx服务数据

  1. 返回阿里云Elasticsearch管理控制台 > Beats数据采集中心
  2. 在创建采集器区域,将鼠标移至Filebeat上,单击ECS日志

  1. 在采集器配置向导中,输入或选择采集器信息。完成后,单击下一步

填写Filebeat文件目录处,填写如下路径:

/var/log/nginx/

  1. filebeat.yml中更改如下脚本。

在第24行enabled更改为true。

在第28行更改paths:

- /var/log/nginx/*.log

  1. 单击下一步,选择采集器安装的ECS实例。

  1. 启动采集器并查看采集器安装情况,此生效过程需等待3~5分钟。
  2. 单击启动。启动成功后,系统弹出启动成功对话框。
  3. 单击前往采集中心查看,在采集器管理区域中,查看启动成功的Filebeat采集器,等待采集器状态变为已生效1/1。
  4. 返回Kibana页面,在左侧导航栏,单击Dev Tools(开发工具)
  5. 在Console页签下,执行如下命令,查看索引。
GET _cat/indices?v

索引创建成功后,结果如下。

  1. 在左侧导航栏,单击Discover,点击选择filebeat,可查看采集的数据详情。

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
5月前
|
消息中间件 运维 Kafka
运维(29)- ELK部署
运维(29)- ELK部署
84 0
|
7月前
|
数据采集 弹性计算 开发工具
使用阿里云Elasticsearch快速搭建可观测系统
本实验带您体验如何登录阿里云Elasticsearch集群,使用Beats采集器收集ECS上的系统数据和Nginx服务数据,配置基础的指标分析看板,简单展示数据采集、分析的过程和操作方式。
321 0
|
10月前
|
存储 运维 监控
大数据数据存储的搜索引擎Elasticsearch的集群运维的集群监控
Elasticsearch是一个可扩展的搜索引擎,可以在同一个集群中部署多个Elasticsearch节点,以提高性能和可用性。
71 0
|
运维 分布式计算 Hadoop
【大数据开发运维解决方案】Elasticsearch+Logstash+Kibana(6.7.1版本)安装部署
Elasticsearch+Logstash+Kibana(6.7.1版本)安装部署 目前Elasticsearch、Logstash、Kibana三个组件都准备安装在虚拟机供个人学习使用。 一、部署Elasticsearch 1、下载安装包 官网下载地址: ES下载官网 选择Elasticsearch组件 2、上传解压安装包 [root@s133061 elk]# pwd /hadoop/elk [root@s133061 elk]# ls elasticsearch-6.7.1.tar.gz kiba
【大数据开发运维解决方案】Elasticsearch+Logstash+Kibana(6.7.1版本)安装部署
|
运维 监控 NoSQL
运维必备——ELK日志分析系统(下)
运维必备——ELK日志分析系统(下)
129 0
运维必备——ELK日志分析系统(下)
|
运维
《EYou—阿里云Elasticsearch智能优化运维工具分享》电子版地址
EYou—阿里云Elasticsearch智能优化运维工具分享
150 0
《EYou—阿里云Elasticsearch智能优化运维工具分享》电子版地址
|
数据采集 弹性计算 运维
使用阿里云Elasticsearch快速搭建智能运维系统
使用阿里云Elasticsearch快速搭建智能运维系统
|
数据采集 弹性计算 运维
使用阿里云Elasticsearch快速搭建智能运维系统 - 学习报告
使用阿里云Elasticsearch快速搭建智能运维系统
137 0
|
数据采集 弹性计算 运维
使用阿里云Elasticsearch快速搭建智能运维系统体验报告
Elasticsearch搭建平台,并创建采集器。
318 0
使用阿里云Elasticsearch快速搭建智能运维系统体验报告
|
数据采集 弹性计算 运维
使用阿里云Elasticsearch快速搭建智能运维系统的课程笔记
了解阿里云Elasticsearch集群创建登录的基础操作 学会采集系统数据和Nginx服务数据 学会配置指标分析看板,体验数据分析和运维的过程
197 0