Elastic端采集统一接入

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000次 1年
简介: 本文介绍Elastic端采集统一接入。

背景

不管是日志采集还是监控、安全场景下,面临的一项关键的挑战就是如何在成千上万的主机上上管理采集agent。

Beats作为 Elastic Stack中的采集端,是一个免费且开放的数据采集器。它们从成百上千或成千上万台机器和系统向 Logstash 或 Elasticsearch 发送数据。

  • Filebeat:轻量型日志采集器。用于从从安全设备、云、容器、主机等设备采集文件。
  • Metricbeat:轻量型指标采集器。用于从系统和服务收集指标。
  • Heartbeat:面向运行状态监测的轻量型采集器。
  • Auditbeat:轻量型审计日志采集器。收集 Linux 审计框架的数据,监控文件完整性。
  • Winlogbeat:轻量型 Windows 事件日志采集器。用于密切监控基于 Windows 的基础设施上发生的事件。
  • Packetbeat:轻量型网络数据采集器。
  • Functionbeat:面向云端数据的无服务器采集器。

综上,Beats系列采集器针对于各种数据采集场景都已经提供了比较丰富的支持,但是企业环境下需求往往是多种场景结合的,既需要完成日志文件的采集,也需要指标或者安全数据的采集。这时如果要使用Beats来采集数据,就需要安装多个二进制文件,而每个二进制文件都涉及通过配置管理、变更管理等一系列的规范化要求,这样就带来了较大的复杂度。

此外,生产环境中新增数据源时,用户必须编辑 YAML 文件并将它们上传到所有服务器(往往需要使用 Ansible 或 Chef 等第三方工具来推送配置),也是一个比较复杂的工作。

Elastic端采集统一接入介绍

使用Elastic Stack,首先要解决的问题就是如何快速方便的将各种数据源的数据采集到 Elastic 平台。为此,Elastic 7.14正式推出了2项重大的发布:

  • Elastic Agent:一个兼具可观测性和安全的单个一体化采集器。
  • Fleet:一个全新的 Kibana 应用,用于大规模地集中管理 Elastic Agent。

Elastic Agent

使用 Elastic Agent,可以用一种一体化的方式从每个主机上收集日志、指标、追踪、可用性、安全性和其他数据类型。这样也就无需为 Filebeat、Metricbeat 等编辑多个配置文件。

除了常规的采集外,Elastic Agent还提供了安全能力,可以保护终端免受勒索软件、恶意软件和高级威胁的侵害。

Fleet

Fleet 提供了一个Web UI来集中化管理Elastic Agent和各种采集数据源的集成。Elastic Agent由 Fleet 集中管理,让用户能够更轻松地跨多个数据源集成数据。

在Fleet Agents管理页,可以查看Agent的主机信息、运行状态、Policy、版本、更新时间等管理信息。

Fleet使用Agent Policy来管理数据源的采集配置,Agent Policy可以包含对多种数据源的采集配置,并可以将Agent Policy应用于多个Elastic Agent,从而更轻松地大规模管理配置。

Fleet集成(Integrations in Fleet)

Fleet 为常用服务和平台提供了数十种开箱即用的Integrations,包括用于提取结构化字段的仪表板、可视化和采集管道。可以一键式将数据源与采集Policy集成,并应用到Elastic Agent上。

例如,Nginx集成,通过Integrations搜索到对应应用,一键即可完成相应的采集配置。

Fleet Server

Fleet Server是Elastic Stack中用于集中管理 Elastic Agent的组件。 一个 Fleet Server 进程可以支持多个 Elastic Agent 连接,用作更新Agent Policies、收集状态信息等。

Fleet Server用作Elastic Agents与Elasticsearch进行通信的连接。整体流程如下:

  • 通过Fleet in Kibana向Elasticsearch创建新的Agent Policy。
  • Elastic Agent向Fleet Server发送注册请求。
  • Fleet Server接收到Elastic Agent注册请求后,会向Elasticsearch获取agent policy,并推送到Elastic Agent。
  • Elastic Agent使用Agent Policy中的配置信息,进行数据采集并发送数据到ElasticSearch。
  • Agent Policy发生变更时,Fleet Server会将变更消息推送到注册的Elastic Agent上。
  • Fleet Server周期性检查Elastic Agent运行状态,并上报。

Fleet Server提供了用于更新Elastic Agent的控制平面,并指示Elastic Agent执行一些操作,如跨主机运行 OSQuery 或在网络层隔离主机以遏制安全威胁。它既可以集中部署,也可以部署在专用网络的边缘。

Elastic Agent跟Beats的比较

Beats作为Elastic Stack的轻量级数据采集器,为不同类型的数据(例如日志、指标等)提供单独的 Beats。实际使用时,往往需要根据业务需求在单个主机上安装多个Beat采集器。

Elastic Agent 是用于日志、指标、安全数据和威胁预防的单一代理。 可以使用Fleet进行集中化管理。

Elastic旨在将Elastic Agent打造成为Elastic Stack标准的采集器,但是目前还无法完全取代Beats(例如Fleet尚不支持输出到 Logstash 或 Kafka,它需要超级用户角色来完成),但是相信后面随着版本的逐步迭代,功能性的gaps会越来越小。

未来的方向应该是Beats的功能作为Integrations的一部分在Elastic Agent中提供采集能力。

差异主要从输入源、输出等方面评估,详见链接

参考文档

Elastic 代理和 Fleet 让您更容易地将系统与 Elastic 集成

Fleet and Elastic Agent Guide

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
7月前
|
运维 安全 API
统一接入API赋能开发者:自动高效、灵活编排的云产品日志采集方案
随着企业对网络安全和数据安全防护水平要求的逐步提升,企业管理对企业生产运维过程中所产生的日志数据,在留存处理、权限隔离、跨境合规、数据汇总等方面提出了更高阶的需求。为了满足大客户及一些国际化客户安全合规、简单快速地接入日志、使用日志、操作日志,我们提出了一种新的解决方案——“云产品统一接入API”。统一接入API主要针对阿里云云产品日志类型,以API的方式提供企业或组织用户快速上手,编排灵活的日志采集方案。
|
消息中间件 存储 数据采集
iLogtail社区版使用入门 - 主机环境采集业务日志到SLS
本文将会详细介绍如何使用社区版iLogtail,并结合SLS云服务快速构建出一套高可用、高性能的日志采集分析系统
898 0
|
6天前
|
JSON 监控 API
【实践】开源IDS网络流量分析与监控系统Zeek对接GrayLog
【实践】开源IDS网络流量分析与监控系统Zeek对接GrayLog
317 0
|
6天前
|
存储 JSON 数据库
从 MQTT、InfluxDB 将数据无缝接入 TDengine,接入功能与 Logstash 类似
利用 TDengine Enterprise 和 TDengine Cloud 的数据接入功能,我们现在能够将 MQTT、InfluxDB 中的数据通过规则无缝转换至 TDengine 中,由于该功能在实现及使用上与 Logstash 类似,本文将结合 Logstash 为大家进行解读。
91 1
|
6天前
|
数据采集 运维 Prometheus
SLS-H5页面如何接入移动运维监控
SLS-H5页面如何接入移动运维监控
33 0
|
6天前
|
弹性计算 运维 监控
【最佳实践】主机场景下如何使用ilogtail采集超大规模文件
目标读者数字化系统开发运维(DevOps)工程师、稳定性工程师(SRE)、可观测平台运维人员等。使用场景客户的某些场景下,业务拆分的比较细,每个业务会定时输出一个日志文件(比如每小时输出一个文件),那么在一台机器上,可能会产生大量的日志文件。由于某些原因,用户不想在业务服务器上安装采集端,因此采用比...
【最佳实践】主机场景下如何使用ilogtail采集超大规模文件
|
6天前
|
Prometheus 运维 监控
统一观测丨使用 Prometheus 监控云原生网关,我们该关注哪些指标?
简介:MSE 云原生网关默认提供了丰富的 Metrics 指标大盘,配合阿里云 Prometheus 监控提供开箱即用的完整可观测性能力,能够帮助用户快捷、高效的搭建自身的微服务网关与对应的可观测体系。
|
Prometheus 监控 Cloud Native
业务端skywalking接入方案
业务端skywalking接入方案
602 1
|
运维 大数据 数据库
《Elasticsearch全观测技术解析与应用(构建日志、指标、APM统一观测平台)》电子版地址
本书将从介绍Elasticsearch、全观测技术原理、行业应用到技术实践,全面系统地解读在大数据背景下,运维人员、开发人员等应用全观测技术的价值和实践上手指南。
479 0
《Elasticsearch全观测技术解析与应用(构建日志、指标、APM统一观测平台)》电子版地址
|
存储 监控 数据可视化
链路监控(skywalking)集成
链路监控(skywalking)集成
243 0
链路监控(skywalking)集成