Splunk基础

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,内容安全 1000 次 1年
对象存储OSS,敏感数据保护2.0 200GB 1年
简介:

简介

Splunk是一个功能完备的企业级产品,提供了命令行窗口,web图形界面接口和其他接口,查询结果展示,数据查询,权限控制,分布式管理服务,数据索引,网络端口监听,数据警报,文件监听等等。

部署结构

一个典型的Splunk分布式部署分为三层:

  • 数据导入层
  • 索引层
  • 搜索管理层
组件,即 Splunk实例 描述
转发器(Forwarder) 数据导入层 转发器可获取数据,然后通常会将数据继续转发至索引器。
索引器(Indexer) 索引层 索引器会对从转发器组传入的数据进行索引。响应搜索头的搜索请求。可靠性:索引器群集通过索引复制,实现了数据的多副本,同时便于数据搜索。
搜索头(Search Head) 搜索管理层 搜索头与用户交互,将搜索请求指向一组索引器,并合并结果返回给用户。

部署场景

单机模式

  • 数据导入
  • 合并的索引和搜索
    image.png

小型企业部署场景

  • 数据导入  -- 多个转发器
  • 索引        -- 多个索引器
  • 搜索管理   -- 单个搜索头

image.png

中大型企业部署场景

  • 数据导入  -- 多个转发器
  • 索引        -- 多个索引器
  • 搜索管理  -- 搜索头集群。Deployer 将应用分发给搜索头群集成员。

image.png

高可用性部署

  • 数据导入  -- 多个转发器
  • 索引        -- 多个索引器。引入对等节点,开启索引复制。
  • 搜索管理  -- 搜索头集群。Deployer 将应用分发给搜索头群集成员。

image.png

数据管道 -- 数据如何通过 Splunk 部署移动

当数据沿着数据管道移动时,Splunk 组件将数据从其外部原始来源(例如日志文件和网络源)转换为可搜索事件。数据管道分为:

  • 输入:采集数据
  • 分析:事件处理,包括数据的检查、分析及转换。
  • 索引:将分析后的事件并将其写入磁盘上的索引中,会同时写入压缩的原始数据和相应的索引文件。
  • 搜索

三个典型处理层和四个数据管道段之间的对应关系如下:

  • 数据导入层处理输入段。
  • 索引层处理分析和索引段。
  • 搜索管理层处理搜索段。

image.png

转发器

类型

  • 通用转发器(universal forwarder ):仅包含转发数据所需的组件。
  • 重型转发器(heavy forwarder):完整的Splunk实例,能够索引、搜索、更改数据,同时也可以转发数据。如果需要装钱分析或更改数据或根据内容控制数据法相,则需要使用重型转发器。
  • 轻型转发器:已启用。

场景

数据整合

利用多个转发器发送数据到单个Splunk索引。
下图,三个通用转发器将数据发送到单个索引器。
image.png

负载均衡

在负载均衡中,转发器按照一定到策略发送数据到不同索引器。
下图,三个通用转发器,它们执行两个索引器之间的负载均衡。
image.png

路由和筛选

在数据路由中,转发器会根据事件本身的数据来源、来源类型或模式等标准,将事件路由到特定的主机。转发器还会过滤并路由事件到特定队列,或通过路由到空队列以完全丢弃它们。
下图,重型转发器将基于事件模式路由数据到三个索引器。
image.png

转发器和索引器群集

使用转发器发送数据到索引器群集的对等节点。
下图,发送数据给索引群集的两个负载均衡转发器。
image.png

索引器

索引器集群

索引器群集是一组协同工作的 Splunk节点,提供冗余索引和搜索操作。群集中的节点有以下三种类型:

  • 单个主节点,用于管理群集。主节点是一种特殊类型的索引器。
  • 多个对等节点,用于处理群集的索引功能、维护数据的多个副本及为其建立索引,以及对数据执行搜索。
  • 一个或多个搜索头,用于协调所有对等节点的搜索。

索引器群集功能会自动从一个对等节点故障转移到下一个对等节点。这意味着,如果一个或多个对等节点出现故障,可继续为传入数据创建索引,且索引数据继续保持可搜索状态。

参考资料

Spliunk中文手册
Splunk quick reference guide

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
目录
相关文章
|
Web App开发 数据采集 前端开发
基于Python的Selenium详解:从入门到实践
基于Python的Selenium详解:从入门到实践
689 0
|
SpringCloudAlibaba Dubbo Java
SpringCloud Alibaba集成Dubbo实现远程服务间调用
SpringCloud Alibaba集成Dubbo实现远程服务间调用
|
Kubernetes 安全 API
国内首个云上容器ATT&CK攻防矩阵发布,阿里云助力企业容器化安全落地
本文对云上容器ATT&CK攻防矩阵做了详细阐述,希望能帮助开发和运维人员了解容器的安全风险和落地安全实践。
国内首个云上容器ATT&CK攻防矩阵发布,阿里云助力企业容器化安全落地
|
12月前
|
云安全 安全 云计算
《阿里云安全白皮书2024版》发布:国内首推“安全共同体”理念
9月20日,在杭州云栖大会上,阿里云发布2024版《阿里云安全白皮书》,正式将公共云安全责任共担的思路,升级为“云上安全共同体”理念,这意味着阿里云不仅会坚守安全责任共担模式下云服务商的责任,搭建和提供“安全的云”, 更会进一步与客户紧密合作,提供更多可供客户采取的安全保障措施,与云上客户共同形成一个紧密相连、 互相支持的安全防护网络,进一步造就云平台的运行安全。
322 15
|
监控 安全 数据可视化
Splunk工具学习(下载、安装、简单使用、核心概念)
Splunk工具学习(下载、安装、简单使用、核心概念)
545 0
|
10月前
|
监控 网络协议 关系型数据库
打造您的网站守护神:Uptime Kuma 的轻松监控之旅!
Uptime Kuma 是一款强大的自托管服务监控工具,支持多种监控方式(HTTP(s)、TCP、Ping等)及丰富的通知功能,帮助用户轻松监控网站和服务的可用性,及时响应问题,保障服务连续性。提供用户友好的界面和灵活的安装选项,包括Docker和源代码构建,适合各种技术背景的用户使用。阿里云还提供了计算巢一键部署方案,简化了Uptime Kuma的安装过程,让用户可以更快地开始使用。
|
算法 安全 物联网
全面了解AES加密:入门指南(二)
全面了解AES加密:入门指南
|
canal Kubernetes 安全
【K8S系列】深入解析k8s网络插件—Flannel
【K8S系列】深入解析k8s网络插件—Flannel
3666 0
|
存储 自然语言处理 安全
搭建自己的私有云盘工具总结
用网盘工具搭建自己的私有云 优点:自己控制数据、不限速(但取决于服你的务器)、功能多、无广告 缺点:稳定性不如大公司、成本高、有一定技术门槛 请在下面选一个自己需要的即可,对应官网有详细的安装说明
5699 0
|
监控 开发工具
最佳实践:WAF常用SLS日志服务分析查询语句
注意:查找时请选择对应的时间区间limit 如果不写默认是100参考WAF字段(其它产品同理,可以到产品对应的官网帮助文档查找SLS服务字段解释):https://help.aliyun.com/document_detail/95492.htmlhttps://help.aliyun.com/do...
385 0