半天掌握日志存储 云启实验室系列课程 第二讲 | 日志服务之敏感信息脱敏与审计

简介: 半天掌握日志存储 云启实验室系列课程 第二讲 | 日志服务之敏感信息脱敏与审计。本教程介绍如何使用日志服务创建模拟数据任务(NGINX访问日志),并对数据进行脱敏和审计。专家支持:阿里云日志服务技术专家 灵圣

好运集市 春天好运会发芽🌱

半天掌握日志存储,云启实验室系等你来!

好运集市.jpeg

4月21日-4月29日,完成以下课程学习即可参与抽奖,100%中奖,云小宝、双肩包、VR眼镜等你来。
点击实验室课程链接:https://developer.aliyun.com/adc/series/activity/sls-1

云启实验室系列课程 第二讲 | 日志服务之敏感信息脱敏与审计 实验简介

本场景主要涉及以下云产品和服务:
• 日志服务:
日志服务SLS是云原生观测与分析平台,为Log、Metric、Trace等数据提供大规模、低成本、实时的平台化服务。日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能,全面提升您在研发、运维、运营、安全等场景的数字化能力。

实验后您将收获到
• 创建模拟数据任务。
• 数据脱敏。
• 数据审计。

云启实验室系列课程 第二讲 | 日志服务之敏感信息脱敏与审计 实验手册

创建原始数据

本步骤将指导您如何创建NGINX模拟数据。

  1. 双击打开虚拟桌面的Firefox ESR浏览器。
  2. 在RAM用户登录框中单击下一步,并复制粘贴页面左上角的子用户密码到用户密码输入框,单击登录。
  3. 复制下方地址,在Firefox ESR浏览器打开新页签,粘贴并访问日志服务控制台。
https://sls.console.aliyun.com/
  1. 在日志服务控制台下方的Project列表中,选择Project资源所在地域,然后单击Project名称。

说明 :您可以在云产品资源列表中查看Project资源所在地域和Project名称。

img

  1. 在日志存储页面左侧,单击日志库下的img 图标。

img

  1. 在创建Logstore对话框中,输入Logstore名称,打开WebTracking开关,然后单击确定。

参数说明:

  • Logstore名称:输入nginx-access-log。
  • WebTracking:打开WebTracking开关,您可以通过WebTracking从HTML、H5、iOS或Android上采集数据到日志服务。

img

  1. 在创建成功对话框中,单击取消。

img

  1. 在日志存储页面左侧,选择日志库>您的Logstore>数据接入>模拟接入,然后单击img 图标。

img

  1. 在快速接入面板中,单击NGINX访问日志下的模拟。

img

  1. 在模拟接入页面,单击开始导入。

img

  1. 在模拟接入页面,等待大约一分钟,模拟数据生成后,单击开始使用。

img

返回如下页面,您可以看到生成的NGINX模拟数据,数据中的客户端IP字段remote_addr和访问者用户名字段remote_user没有脱敏,信息安全隐患非常大。

img

数据脱敏

本步骤将指导您如何创建数据加工任务,对原数据进行脱敏。

  1. 在日志存储页面左侧,单击日志库下的img 图标。

img

  1. 在创建Logstore对话框中,输入Logstore名称,打开WebTracking开关,然后单击确定。

说明 :该Logstore用来存储脱敏后的数据。

参数说明:

  • Logstore名称:输入nginx-access-log-fmt。
  • WebTracking:打开WebTracking开关,您可以通过WebTracking从HTML、H5、iOS或Android上采集数据到日志服务。

img

  1. 在创建成功对话框中,单击取消。

img

  1. 在日志存储页面左侧,单击nginx-access-log-fmt。

img

  1. 在错误对话框中,单击确定。

img

  1. 在nginx-access-log-fmt页签右上方,单击开启索引。

img

  1. 在查询分析面板中,打开全文索引,单击确定。

img

  1. 在查询分析设置对话框中,单击确认。

img

  1. 在nginx-access-log-fmt页签左侧,单击nginx-access-log。

img

  1. 在nginx-access-log页签,单击数据加工。

img

  1. 在nginx-access-log数据加工页签,输入如下加工语句,单击保存数据加工。
e_set("remote_addr", regex_replace(v("remote_addr"), grok("(%{IP})"), replace=r"*.*.*.*"))
e_set("remote_user", regex_replace(v("remote_user"), r"(\S)\S+", replace=r"\1****"))

img

  1. 在创建数据加工规则面板,输入规则名称,单击添加,然后配置存储目标,时间范围选择为所有,单击确定。

参数说明:

  • 规则名称:自定义规则名称,例如mask-sensitive-info。
  • 目标名称:存储目标的名称,输入nginx-access-log-fmt。
  • 目标Region:选择您的Project资源所在地域。
  • 目标Project:选择您的Project名称。
  • 目标库:选择nginx-access-log-fmt。
  • 时间范围:选择所有。

img

img

  1. 在创建结果对话框中,单击确认。

img

  1. 在nginx-access-log页签左侧,单击nginx-access-log-fmt。

img

  1. 在nginx-access-log-fmt页签右上方,单击查询/分析。

img

返回如下页面,您可以看到NGINX模拟数据中的客户端IP字段remote_addr和访问者用户名字段remote_user已经脱敏。

img

查看数据加工任务及开启监控告警

本步骤将指导您如何查看数据加工任务及开启监控告警。

  1. 在日志存储页面左侧,选择日志库>nginx-access-log>数据处理>加工>您的数据加工任务(例如下图的mask-sensitive-info)。

img

返回如下页签,您可以看到数据加工任务详情和执行状态。

img

  1. 在数据加工概览页签的执行状态区域,单击开启监控。

img

  1. 在告警中心页签,选择所有监控规则,单击开启。

img

  1. 在提示对话框中,单击确定。

img

返回如下页面,当状态为已开启时,表示您已成功开启监控,日志服务会在数据加工存在异常时,为您发送告警通知,便于您快速发现数据加工过程中的异常问题。

img

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
目录
相关文章
|
存储 运维 监控
SelectDB 实现日志高效存储与实时分析,完成任务可领取积分、餐具套装/水杯/帆布包!
SelectDB 实现日志高效存储与实时分析,完成任务可领取积分、餐具套装/水杯/帆布包!
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
1663 55
|
存储 数据可视化 开发工具
【Application Insights】Application Insights存储的Function App的日志存在"Operation Link" 为空的情况
在将 Azure Functions 升级到 .NET 8 和 Isolated Worker 模式后,Application Insights 的请求日志中 `operation_Link` 字段为空,导致分布式追踪无法正常关联。解决方法包括:确保引用正确的 SDK 包(如 `Microsoft.Azure.Functions.Worker.ApplicationInsights`),正确配置 Application Insights 服务,移除默认日志过滤规则,并使用最新依赖包以支持分布式追踪。通过这些步骤,可恢复端到端事务视图的可视化效果。
335 11
|
存储 监控 API
【Azure App Service】分享使用Python Code获取App Service的服务器日志记录管理配置信息
本文介绍了如何通过Python代码获取App Service中“Web服务器日志记录”的配置状态。借助`azure-mgmt-web` SDK,可通过初始化`WebSiteManagementClient`对象、调用`get_configuration`方法来查看`http_logging_enabled`的值,从而判断日志记录是否启用及存储方式(关闭、存储或文件系统)。示例代码详细展示了实现步骤,并附有执行结果与官方文档参考链接,帮助开发者快速定位和解决问题。
477 22
|
存储 缓存 关系型数据库
图解MySQL【日志】——Redo Log
Redo Log(重做日志)是数据库中用于记录数据页修改的物理日志,确保事务的持久性和一致性。其主要作用包括崩溃恢复、提高性能和保证事务一致性。Redo Log 通过先写日志的方式,在内存中缓存修改操作,并在适当时候刷入磁盘,减少随机写入带来的性能损耗。WAL(Write-Ahead Logging)技术的核心思想是先将修改操作记录到日志文件中,再择机写入磁盘,从而实现高效且安全的数据持久化。Redo Log 的持久化过程涉及 Redo Log Buffer 和不同刷盘时机的控制参数(如 `innodb_flush_log_at_trx_commit`),以平衡性能与数据安全性。
1197 5
图解MySQL【日志】——Redo Log
|
缓存 Java 编译器
|
监控 Java 应用服务中间件
Tomcat log日志解析
理解和解析Tomcat日志文件对于诊断和解决Web应用中的问题至关重要。通过分析 `catalina.out`、`localhost.log`、`localhost_access_log.*.txt`、`manager.log`和 `host-manager.log`等日志文件,可以快速定位和解决问题,确保Tomcat服务器的稳定运行。掌握这些日志解析技巧,可以显著提高运维和开发效率。
2052 13
|
SQL 缓存
【YashanDB知识库】YashanDB run.log中有slow log queue is full信息
【YashanDB知识库】YashanDB run.log中有slow log queue is full信息

相关产品

  • 日志服务