态势感知日志分析 - 一行命令导出日志

本文涉及的产品
对象存储 OSS,20GB 3个月
日志服务 SLS,月写入数据量 50GB 1个月
文件存储 NAS,50GB 3个月
简介: 本篇介绍如何,使用命令行工具一行命令导出态势感知日志

背景

目前,阿里云态势感知与日志服务打通,对外开放平台依赖或者产生的日志,包括网络、主机、安全三大类共14种子类日志。提供近实时的日志自动采集存储、并提供基于日志服务的查询分析、报表报警、下游计算对接与投递的能力。
image

本文介绍如何导出日志以便在某些场景下使用。

导出日志到本地

这里介绍如何使用阿里云日志服务的命令行工具(CLI)导出态势感知的相关日志到本地。

命令行准备工作

  1. 安装命令行工具(CLI)
    准备一台可以连上阿里云的机器,通过命令行安装CLI:

pip install -U aliyun-log-cli
如果遇到网络或者其他按照问题,可以参考文档

  1. 获取当前账户的秘钥
    点击阿里云控制台右上角的登录图标,选择accesskeys

image

点击警告的确认后,在秘钥列表中,选择一个没有过期的秘钥,点击显示查看并复制秘钥的ID和Key
image

注意:记录的秘钥请特别注意安全,推荐使用子账号秘钥的方式进行管理。

  1. 配置命令行的账户秘钥
aliyunlog configure 秘钥ID  秘钥Key 区域路径

注意: 其中区域路径取决于您的态势感知的区域,并且根据您运行命令所在的环境,有一些变化:

态势感知区域 运行命令行所处环境 区域路径
国内 任意机器 cn-hangzhou.log.aliyuncs.com
国内 杭州区域的ECS上 推荐 cn-hangzhou-intranet.log.aliyuncs.com 性能更佳
马来西亚 任意机器 ap-southeast-3.log.aliyuncs.com
马来西亚 吉隆坡区域的ECS上 推荐 ap-southeast-3-intranet.log.aliyuncs.com 性能更佳
  1. 获取日志服务的项目名和日志库名
    进入态势感知的控制台,进入日志分析后,可以看到日志服务的项目名称和日志库名:

image

可以看到,这里项目名称(Project)是:sas-log-阿里云账户ID-cn-hangzhou,日志库名(Logstore)是:sas-log

操作步骤

  1. 使用命令行,进入想要下载日志的存储的目录,例如dump_data
cd dump_data
  1. 执行CLI命令:
aliyun log pull_log_dump --project_name="项目名" --logstore_name="sas-log" --from_time="2018-01-24 16:00:00+8:00" --to_time="2018-01-24 17:00:00+8:00" --file_path="./dump_{}.data"

这里拉取从时间2018-01-24 16:00:00+8:002018-01-24 17:00:00+8:00并把数据下载本地。

  1. 下载完成
    下载完后会显示下载的文件列表以及日志数,例如:
{"files": {"./dump_1.data": 75, "./dump_2.data": 14}, "total_count": 89}

因为是并发下载,所以会存储在多个文件中,文件名根据/data/dump_{}.data中的{}替换成多个并发的数字(一般是分区号)。文件的内容格式为一行一个日志,例如:

{"k1":"a1", "k2":"a2"}
{"k1":"b1", "k2":"b2"}
...

进一步参考

进一步参考相关最佳实践:

目录
相关文章
|
16天前
|
监控 Linux 开发者
如何在 Linux 中优雅的使用 head 命令,用来看日志简直溜的不行
`head` 命令是 Linux 系统中一个非常实用的工具,用于快速查看文件的开头部分内容。本文介绍了 `head` 命令的基本用法、高级用法、实际应用案例及注意事项,帮助用户高效处理文件和日志,提升工作效率。
25 7
|
1月前
|
监控 Linux 测试技术
Linux系统命令与网络,磁盘和日志监控总结
Linux系统命令与网络,磁盘和日志监控总结
58 0
|
1月前
|
监控 Linux 测试技术
Linux系统命令与网络,磁盘和日志监控三
Linux系统命令与网络,磁盘和日志监控三
41 0
|
2月前
【Azure Policy】分享Policy实现对Azure Activity Log导出到Log A workspace中
在Policy Rule部分中,选择资源的类型为 "Microsoft.Resources/subscriptions", 效果使用 DeployIfNotExists (如果不存在,则通过修复任务进行修正。 在 existenceCondition 条件中,如果当前订阅已经启用了 diagnostic setting并且输出日志到同一个Log A workspace,表示满足Policy要求,不需要进行修正。 在 deployment 中,使用了 ARM 模板, 为订阅添加Diagnostic Setting并且所有的日志Category均启用。
|
3月前
|
Ubuntu Linux Apache
在Linux中,如何使用logrotate命令管理日志文件?
在Linux中,如何使用logrotate命令管理日志文件?
|
3月前
|
存储 监控 安全
|
2月前
crash命令 —— log
crash命令 —— log
|
4月前
|
监控 数据管理 关系型数据库
数据管理DMS使用问题之是否支持将操作日志导出至阿里云日志服务(SLS)
阿里云数据管理DMS提供了全面的数据管理、数据库运维、数据安全、数据迁移与同步等功能,助力企业高效、安全地进行数据库管理和运维工作。以下是DMS产品使用合集的详细介绍。
|
4月前
|
应用服务中间件 Linux 开发工具
Nginx14---目录结构分析,查看Ngnix访问日志命令的写法​
Nginx14---目录结构分析,查看Ngnix访问日志命令的写法​
|
5月前
|
监控 Linux 数据处理
深入了解Linux的logger命令:日志记录与监控
`logger`命令在Linux中用于向系统日志发送消息,便于记录系统事件和应用程序状态。它与`syslogd`配合,允许用户指定优先级、标识符和内容。简单易用,灵活适应不同日志需求。示例:`logger -p user.warning -t MYAPP "A warning occurred."`。注意选择合适优先级,使用有意义的标识符,并结合其他工具如`logrotate`进行日志管理。

相关产品

  • 日志服务
  • 下一篇
    无影云桌面