半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000次 1年
简介: 本场景介绍如何通过日志服务数据导入方式,将 OSS 数据导入到日志服务。
 

好运集市 春天好运会发芽🌱

半天掌握日志存储,云启实验室系等你来!

好运集市.jpeg

4月21日-4月29日,完成以下课程学习即可参与抽奖,100%中奖,云小宝、双肩包、VR眼镜等你来。
点击实验室课程链接:https://developer.aliyun.com/adc/series/activity/sls-1

课程实践.png

半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入 实验背景

本场景将提供一台配置了 CentOS 7.7 版本的 ECS 实例(云服务器)。通过本教程的操作,您可以基于已有环境快速采集 Nginx 日志。
体验此场景后,可以掌握的知识有:
• 日志服务数据导入基本操作。

本场景主要涉及以下云产品和服务:
• 日志服务 SLS:
日志服务SLS是云原生观测与分析平台,为 Log、Metric、Trace 等数据提供大规模、低成本、实时的平台化服务。日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能,全面提升您在研发、运维、运营、安全等场景的数字化能力。
• 云服务器 ECS:
云服务器(Elastic Compute Service,简称 ECS)是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS(Infrastructure as a Service)级别云计算服务。云服务器 ECS 免去了您采购IT硬件的前期准备,让您像使用水、电、天然气等公共资源一样便捷、高效地使用服务器,实现计算资源的即开即用和弹性伸缩。阿里云 ECS持续提供创新型服务器,解决多种业务需求,助力您的业务发展。

实验后您将收获到
• 日志服务真实操作环境
• OSS 基本操作

半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入 实验手册

上传日志文件

1、双击打开虚拟桌面的Firefox ESR浏览器。

2、在RAM用户登录框中单击下一步,并复制粘贴页面左上角的子用户密码到用户密码输入框,单击登录。

3、在浏览器中打开新页签,访问如下地址,下载测试日志文件。

https://labfileapp.oss-cn-hangzhou.aliyuncs.com/%E6%97%A5%E5%BF%97%E6%9C%8D%E5%8A%A1/testlog.csv

4、在浏览器中打开新页签,复制如下对象存储OSS控制台地址,粘贴到地址栏中并访问。

https://oss.console.aliyun.com/

5、在对象存储控制台左侧导航栏中,单击Bucket列表img

6、在Bucket列表页面,单击Bucket名称img

7、在文件管理页面,单击新建目录img

8、在新建目录对话框中,输入目录名sls,单击确定img

9、在文件管理页面,单击文件名slsimg

10、在sls目录中,单击上传文件img

11、在上传文件页面,文件ACL选择公共读,单击扫描文件,找到目录/home/adc/下载,选择下载好的测试日志test.log,然后单击上传文件img

任务列表页面,等待状态变为上传成功,表示测试日志文件已经上传成功到OSS。 img

创建Logstore

1、在浏览器中打开新页签,复制如下日志服务控制台地址,粘贴到地址栏中并访问。

https://sls.console.aliyun.com/

2、在日志服务控制台页面下方的Project列表区域,选择云产品资源列表中Project name,然后单击Project名称

img

img

3、在左侧日志库功能栏中,单击 img

img

4、在创建Logstore对话框中,输入Logstore名称,打开WebTracking开关,然后单击确定

参数说明:

  • Logstore名称:自定义Logstore名称,在其所属Project内必须唯一。创建Logstore成功后,无法更改其名称。
  • WebTracking:打开WebTracking开关,您可以通过WebTracking从HTML、H5、iOS或Android上采集数据到日志服务。 img

5、在创建成功对话框中,单击取消img

1、在日志服务控制台的接入数据区域,单击OSS-数据导入

img

2、在选择日志空间页面,在项目Project中选择云产品资源列表中的Project name,在日志库Logstore中选择步骤三中创建的Logstore,然后单击下一步img

3、在数据源设置页面,输入配置名称,选择OSS RegionBucket,输入文件夹前缀,选择数据格式,然后单击预览

参数说明:

  • 配置名称:自定义配置名称。
  • OSS Region:待导入的OSS文件所在Bucket的地域,可在云产品资源列表中查看Bucket的地域。
  • Bucket:待导入的OSS文件所在的Bucket,可在云产品资源列表中查看Bucket Name。
  • 文件夹前缀:待导入的OSS文件所在文件夹的前缀,输入sls/
  • 数据格式:文件的解析格式,选择单行文本日志。 img

4、在文件预览结果框中,预览数据,结果无误后,单击下个配置img

5、在数据格式配置页面,单击测试,测试结果无误后,单击下个配置img

6、在调度间隔页面,打开立即执行,单击下一步img

7、在查询分析配置页面,单击下一步img

8、在结束页面,单击查询日志img

9、在查询分析对话框中,单击确定img

10、在查询分析页面,稍等几分钟后,单击查询/分析,即可查询到从OSS导入的日志数据。

img

导入OSS数据

1、在日志服务控制台的接入数据区域,单击OSS-数据导入

img

2、在选择日志空间页面,在项目Project中选择云产品资源列表中的Project name,在日志库Logstore中选择步骤三中创建的Logstore,然后单击下一步img

3、在数据源设置页面,输入配置名称,选择OSS RegionBucket,输入文件夹前缀,选择数据格式,然后单击预览

参数说明:

  • 配置名称:自定义配置名称。
  • OSS Region:待导入的OSS文件所在Bucket的地域,可在云产品资源列表中查看Bucket的地域。
  • Bucket:待导入的OSS文件所在的Bucket,可在云产品资源列表中查看Bucket Name。
  • 文件夹前缀:待导入的OSS文件所在文件夹的前缀,输入sls/
  • 数据格式:文件的解析格式,选择单行文本日志。 img

4、在文件预览结果框中,预览数据,结果无误后,单击下个配置img

5、在数据格式配置页面,单击测试,测试结果无误后,单击下个配置img

6、在调度间隔页面,打开立即执行,单击下一步img

7、在查询分析配置页面,单击下一步img

8、在结束页面,单击查询日志img

9、在查询分析对话框中,单击确定img

10、在查询分析页面,稍等几分钟后,单击查询/分析,即可查询到从OSS导入的日志数据。

img

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
1月前
|
存储 消息中间件 大数据
大数据-69 Kafka 高级特性 物理存储 实机查看分析 日志存储一篇详解
大数据-69 Kafka 高级特性 物理存储 实机查看分析 日志存储一篇详解
35 4
|
1月前
|
存储 消息中间件 大数据
大数据-70 Kafka 高级特性 物理存储 日志存储 日志清理: 日志删除与日志压缩
大数据-70 Kafka 高级特性 物理存储 日志存储 日志清理: 日志删除与日志压缩
39 1
|
1月前
|
存储 消息中间件 大数据
大数据-68 Kafka 高级特性 物理存储 日志存储概述
大数据-68 Kafka 高级特性 物理存储 日志存储概述
26 1
|
1月前
|
存储 监控 固态存储
如何监控和优化 WAL 日志文件的存储空间使用?
如何监控和优化 WAL 日志文件的存储空间使用?
|
2月前
|
存储 SQL 专有云
支持配置审计日志的存储数据库
审计日志作为企业监管平台的重要依据,同时也是“等保三级”认证的必要考察项之一。Dataphin V4.3版本支持设置平台日志的存储数据源,帮助用户快速获取审计日志,同时介绍了不同部署模式的Dataphin如何查看审计日志的方法。
113 5
|
1月前
|
SQL 关系型数据库 MySQL
Hadoop-25 Sqoop迁移 增量数据导入 CDC 变化数据捕获 差量同步数据 触发器 快照 日志
Hadoop-25 Sqoop迁移 增量数据导入 CDC 变化数据捕获 差量同步数据 触发器 快照 日志
39 0
|
2月前
|
存储 监控 数据可视化
SLS 虽然不是直接使用 OSS 作为底层存储,但它凭借自身独特的存储架构和功能,为用户提供了一种专业、高效的日志服务解决方案。
【9月更文挑战第2天】SLS 虽然不是直接使用 OSS 作为底层存储,但它凭借自身独特的存储架构和功能,为用户提供了一种专业、高效的日志服务解决方案。
154 9
|
2月前
|
存储 分布式计算 资源调度
通过日志聚合将作业日志存储在HDFS中
如何通过配置Hadoop的日志聚合功能,将作业日志存储在HDFS中以实现长期保留,并详细说明了相关配置参数和访问日志的方法。
32 0
通过日志聚合将作业日志存储在HDFS中
|
15天前
|
XML 安全 Java
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
本文介绍了Java日志框架的基本概念和使用方法,重点讨论了SLF4J、Log4j、Logback和Log4j2之间的关系及其性能对比。SLF4J作为一个日志抽象层,允许开发者使用统一的日志接口,而Log4j、Logback和Log4j2则是具体的日志实现框架。Log4j2在性能上优于Logback,推荐在新项目中使用。文章还详细说明了如何在Spring Boot项目中配置Log4j2和Logback,以及如何使用Lombok简化日志记录。最后,提供了一些日志配置的最佳实践,包括滚动日志、统一日志格式和提高日志性能的方法。
128 30
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
|
1月前
|
XML JSON Java
Logback 与 log4j2 性能对比:谁才是日志框架的性能王者?
【10月更文挑战第5天】在Java开发中,日志框架是不可或缺的工具,它们帮助我们记录系统运行时的信息、警告和错误,对于开发人员来说至关重要。在众多日志框架中,Logback和log4j2以其卓越的性能和丰富的功能脱颖而出,成为开发者们的首选。本文将深入探讨Logback与log4j2在性能方面的对比,通过详细的分析和实例,帮助大家理解两者之间的性能差异,以便在实际项目中做出更明智的选择。
232 3

相关产品

  • 日志服务