日志服务(原SLS)新功能发布(9)--Logtail配置支持主题(Topic)设置功能

简介: 日志服务中日志为日志服务中处理的最小数据单元,采用半结构化数据模式定义一条日志,具体数据模型包括主题(Topic)、时间(Time)、内容(Content)和来源(Source),详细描述请参考核心概念。其中主题(Topic)为用户自定义字段,用以标记一批日志(例如:访问日志根据不同站点进行标记).

日志服务中日志为日志服务中处理的最小数据单元,采用半结构化数据模式定义一条日志,具体数据模型包括主题(Topic)、时间(Time)、内容(Content)和来源(Source),详细描述请参考核心概念。其中主题(Topic)为用户自定义字段,用以标记一批日志(例如:访问日志根据不同站点进行标记),默认值为空字符串(空字符串也为一个有效的主题)。用户可以通过使用REST API/SDK上传数据时设置主题。除此之外,Logtail客户端为日志服务用户常用的数据接入客户端,目前也支持设置使用不同的属性设置主题名称。

Logtail主题配置可以在Logtail配置页面中“高级选项”进行设置,目前支持4中主题设置方式:空字符串(默认值)、文件路径、文件路径正则和机器组Topic属性。页面详情请参考截图。
_TOPIC

空字符串

空字符串即Logtail主题配置的默认值,在使用“日志索引”功能进行关键词查询时不需要输入任何主题名称即可查询上传数据。
_

文件路径正则

使用场景

如果服务日志根据不同的用户或者实例将日志记录在不同目录下面,但是日志比如下面的目录结构:

/logs
  | - /userA/serviceA
    | - service.log
  | - /userB/serviceA
    | - service.log
  | - /userC/serviceA
    | - service.log

使用Logtail配置文件路径为“/logs”,文件名称为“service.log”后,会将三个service目录下的日志内容实时收集至服务端,但是无法明确区分日志内容具体由哪个用户或者实例产生。此时可以设置“Topic生成方式”为“文件路径正则”,并且输入正则表达式“/(.*)/serviceA/.*”提取实例名称。

查询方式

当选择“文件路径正则”主题生成方式时,Logtail上报数据时会将实例名称作为主题名称上传至日志服务,根据上述目录结构和配置,会生成3个topic,其分别为“userA”、“userB”和“userC”,在使用“日志索引”功能查询时需要指定主题名称为实例名称。
_

机器组Topic属性

使用场景

假设公司通过一批前端机器对外提供HTTP服务,但是对于VIP用户希望提供更高的SLA,因此将其中部分机器只对VIP用户开放服务,对于所以HTTP访问日志目录结构如下:

/logs
  | - access.log

使用Logtail配置文件路径为“/logs”,文件名称为“access.log”后,会将所有前端机对应的访问日志都实时收集至服务端,但是无法明确区分是由哪组前端服务器产生。此时可以设置“Topic生成方式”为“机器组Topic属性”,之后将前端机器分成“normal-group”和“vip-group”两个机器组,在创建机器组时,可以设置两个机器组的Topic属性分别为“normal”和“vip”,具体设置方式截图如下:
_

将两个机器组应用之前创建的Logtail配置后,即完成对应配置。Topic属性会根据机器组应用到对应机器,为防止歧义,请不要对同一台机器应用不同Topic数值,否则会在Topic之间进行切换。

查询方式

当选择“机器组Topic属性”主题生成方式时,Logtail上报数据时会将机器所在机器组的Topic属性作为主题名称上传至日志服务,在使用“日志索引”功能查询是需要指定主题名称为特定机器组Topic属性。
_TOPIC

相关实践学习
通过日志服务实现云资源OSS的安全审计
本实验介绍如何通过日志服务实现云资源OSS的安全审计。
目录
相关文章
|
4月前
|
监控 安全 程序员
Python日志模块配置:从print到logging的优雅升级指南
从 `print` 到 `logging` 是 Python 开发的必经之路。`print` 调试简单却难维护,日志混乱、无法分级、缺乏上下文;而 `logging` 支持级别控制、多输出、结构化记录,助力项目可维护性升级。本文详解痛点、优势、迁移方案与最佳实践,助你构建专业日志系统,让程序“有记忆”。
358 0
|
5月前
|
缓存 Java 应用服务中间件
Spring Boot配置优化:Tomcat+数据库+缓存+日志,全场景教程
本文详解Spring Boot十大核心配置优化技巧,涵盖Tomcat连接池、数据库连接池、Jackson时区、日志管理、缓存策略、异步线程池等关键配置,结合代码示例与通俗解释,助你轻松掌握高并发场景下的性能调优方法,适用于实际项目落地。
825 5
|
11月前
|
SQL Java 数据库连接
微服务——SpringBoot使用归纳——Spring Boot使用slf4j进行日志记录—— application.yml 中对日志的配置
在 Spring Boot 项目中,`application.yml` 文件用于配置日志。通过 `logging.config` 指定日志配置文件(如 `logback.xml`),实现日志详细设置。`logging.level` 可定义包的日志输出级别,例如将 `com.itcodai.course03.dao` 包设为 `trace` 级别,便于开发时查看 SQL 操作。日志级别从高到低为 ERROR、WARN、INFO、DEBUG,生产环境建议调整为较高级别以减少日志量。本课程采用 yml 格式,因其层次清晰,但需注意格式要求。
1048 0
|
安全 BI 网络安全
EventLog Analyzer 如何满足等保合规要求?密码有效期、产品日志保留、配置备份三大核心问题全面解答
EventLog Analyzer(ELA)助力企业满足网络安全等级保护要求,支持配置自动/手动备份、日志180天留存及密码策略管理,提升合规性与安全运营效率。
180 0
|
9月前
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
942 54
|
7月前
|
JSON 安全 Go
Go语言项目工程化 —— 日志、配置、错误处理规范
本章详解Go语言项目工程化核心规范,涵盖日志、配置与错误处理三大关键领域。在日志方面,强调其在问题排查、性能优化和安全审计中的作用,推荐使用高性能结构化日志库zap,并介绍日志级别与结构化输出的最佳实践。配置管理部分讨论了配置分离的必要性,对比多种配置格式如JSON、YAML及环境变量,并提供viper库实现多环境配置的示例。错误处理部分阐述Go语言显式返回error的设计哲学,讲解标准处理方式、自定义错误类型、错误封装与堆栈追踪技巧,并提出按调用层级进行错误处理的建议。最后,总结各模块的工程化最佳实践,助力构建可维护、可观测且健壮的Go应用。
|
8月前
|
存储 NoSQL MongoDB
Docker中安装MongoDB并配置数据、日志、配置文件持久化。
现在,你有了一个运行在Docker中的MongoDB,它拥有自己的小空间,对高楼大厦的崩塌视而不见(会话丢失和数据不持久化的问题)。这个MongoDB的数据、日志、配置文件都会妥妥地保存在你为它精心准备的地方,天旋地转,它也不会失去一丁点儿宝贵的记忆(即使在容器重启后)。
977 4
|
10月前
|
存储 监控 API
【Azure App Service】分享使用Python Code获取App Service的服务器日志记录管理配置信息
本文介绍了如何通过Python代码获取App Service中“Web服务器日志记录”的配置状态。借助`azure-mgmt-web` SDK,可通过初始化`WebSiteManagementClient`对象、调用`get_configuration`方法来查看`http_logging_enabled`的值,从而判断日志记录是否启用及存储方式(关闭、存储或文件系统)。示例代码详细展示了实现步骤,并附有执行结果与官方文档参考链接,帮助开发者快速定位和解决问题。
295 22
|
11月前
|
监控 Java 应用服务中间件
Tomcat log日志解析
理解和解析Tomcat日志文件对于诊断和解决Web应用中的问题至关重要。通过分析 `catalina.out`、`localhost.log`、`localhost_access_log.*.txt`、`manager.log`和 `host-manager.log`等日志文件,可以快速定位和解决问题,确保Tomcat服务器的稳定运行。掌握这些日志解析技巧,可以显著提高运维和开发效率。
1230 13

相关产品

  • 日志服务