半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入

本文涉及的产品
对象存储 OSS,OSS 加速器 50 GB 1个月
简介: 本场景介绍如何通过日志服务数据导入方式,将 OSS 数据导入到日志服务。
 

好运集市 春天好运会发芽🌱

半天掌握日志存储,云启实验室系等你来!

好运集市.jpeg

4月21日-4月29日,完成以下课程学习即可参与抽奖,100%中奖,云小宝、双肩包、VR眼镜等你来。
点击实验室课程链接:https://developer.aliyun.com/adc/series/activity/sls-1

课程实践.png

半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入 实验背景

本场景将提供一台配置了 CentOS 7.7 版本的 ECS 实例(云服务器)。通过本教程的操作,您可以基于已有环境快速采集 Nginx 日志。
体验此场景后,可以掌握的知识有:
• 日志服务数据导入基本操作。

本场景主要涉及以下云产品和服务:
• 日志服务 SLS:
日志服务SLS是云原生观测与分析平台,为 Log、Metric、Trace 等数据提供大规模、低成本、实时的平台化服务。日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能,全面提升您在研发、运维、运营、安全等场景的数字化能力。
• 云服务器 ECS:
云服务器(Elastic Compute Service,简称 ECS)是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS(Infrastructure as a Service)级别云计算服务。云服务器 ECS 免去了您采购IT硬件的前期准备,让您像使用水、电、天然气等公共资源一样便捷、高效地使用服务器,实现计算资源的即开即用和弹性伸缩。阿里云 ECS持续提供创新型服务器,解决多种业务需求,助力您的业务发展。

实验后您将收获到
• 日志服务真实操作环境
• OSS 基本操作

半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入 实验手册

上传日志文件

1、双击打开虚拟桌面的Firefox ESR浏览器。

2、在RAM用户登录框中单击下一步,并复制粘贴页面左上角的子用户密码到用户密码输入框,单击登录。

3、在浏览器中打开新页签,访问如下地址,下载测试日志文件。

https://labfileapp.oss-cn-hangzhou.aliyuncs.com/%E6%97%A5%E5%BF%97%E6%9C%8D%E5%8A%A1/testlog.csv

4、在浏览器中打开新页签,复制如下对象存储OSS控制台地址,粘贴到地址栏中并访问。

https://oss.console.aliyun.com/

5、在对象存储控制台左侧导航栏中,单击Bucket列表img

6、在Bucket列表页面,单击Bucket名称img

7、在文件管理页面,单击新建目录img

8、在新建目录对话框中,输入目录名sls,单击确定img

9、在文件管理页面,单击文件名slsimg

10、在sls目录中,单击上传文件img

11、在上传文件页面,文件ACL选择公共读,单击扫描文件,找到目录/home/adc/下载,选择下载好的测试日志test.log,然后单击上传文件img

任务列表页面,等待状态变为上传成功,表示测试日志文件已经上传成功到OSS。 img

创建Logstore

1、在浏览器中打开新页签,复制如下日志服务控制台地址,粘贴到地址栏中并访问。

https://sls.console.aliyun.com/

2、在日志服务控制台页面下方的Project列表区域,选择云产品资源列表中Project name,然后单击Project名称

img

img

3、在左侧日志库功能栏中,单击 img

img

4、在创建Logstore对话框中,输入Logstore名称,打开WebTracking开关,然后单击确定

参数说明:

  • Logstore名称:自定义Logstore名称,在其所属Project内必须唯一。创建Logstore成功后,无法更改其名称。
  • WebTracking:打开WebTracking开关,您可以通过WebTracking从HTML、H5、iOS或Android上采集数据到日志服务。 img

5、在创建成功对话框中,单击取消img

1、在日志服务控制台的接入数据区域,单击OSS-数据导入

img

2、在选择日志空间页面,在项目Project中选择云产品资源列表中的Project name,在日志库Logstore中选择步骤三中创建的Logstore,然后单击下一步img

3、在数据源设置页面,输入配置名称,选择OSS RegionBucket,输入文件夹前缀,选择数据格式,然后单击预览

参数说明:

  • 配置名称:自定义配置名称。
  • OSS Region:待导入的OSS文件所在Bucket的地域,可在云产品资源列表中查看Bucket的地域。
  • Bucket:待导入的OSS文件所在的Bucket,可在云产品资源列表中查看Bucket Name。
  • 文件夹前缀:待导入的OSS文件所在文件夹的前缀,输入sls/
  • 数据格式:文件的解析格式,选择单行文本日志。 img

4、在文件预览结果框中,预览数据,结果无误后,单击下个配置img

5、在数据格式配置页面,单击测试,测试结果无误后,单击下个配置img

6、在调度间隔页面,打开立即执行,单击下一步img

7、在查询分析配置页面,单击下一步img

8、在结束页面,单击查询日志img

9、在查询分析对话框中,单击确定img

10、在查询分析页面,稍等几分钟后,单击查询/分析,即可查询到从OSS导入的日志数据。

img

导入OSS数据

1、在日志服务控制台的接入数据区域,单击OSS-数据导入

img

2、在选择日志空间页面,在项目Project中选择云产品资源列表中的Project name,在日志库Logstore中选择步骤三中创建的Logstore,然后单击下一步img

3、在数据源设置页面,输入配置名称,选择OSS RegionBucket,输入文件夹前缀,选择数据格式,然后单击预览

参数说明:

  • 配置名称:自定义配置名称。
  • OSS Region:待导入的OSS文件所在Bucket的地域,可在云产品资源列表中查看Bucket的地域。
  • Bucket:待导入的OSS文件所在的Bucket,可在云产品资源列表中查看Bucket Name。
  • 文件夹前缀:待导入的OSS文件所在文件夹的前缀,输入sls/
  • 数据格式:文件的解析格式,选择单行文本日志。 img

4、在文件预览结果框中,预览数据,结果无误后,单击下个配置img

5、在数据格式配置页面,单击测试,测试结果无误后,单击下个配置img

6、在调度间隔页面,打开立即执行,单击下一步img

7、在查询分析配置页面,单击下一步img

8、在结束页面,单击查询日志img

9、在查询分析对话框中,单击确定img

10、在查询分析页面,稍等几分钟后,单击查询/分析,即可查询到从OSS导入的日志数据。

img

相关实践学习
通过日志服务实现云资源OSS的安全审计
本实验介绍如何通过日志服务实现云资源OSS的安全审计。
目录
相关文章
|
10月前
|
存储 运维 监控
SelectDB 实现日志高效存储与实时分析,完成任务可领取积分、餐具套装/水杯/帆布包!
SelectDB 实现日志高效存储与实时分析,完成任务可领取积分、餐具套装/水杯/帆布包!
|
9月前
|
存储 数据可视化 开发工具
【Application Insights】Application Insights存储的Function App的日志存在"Operation Link" 为空的情况
在将 Azure Functions 升级到 .NET 8 和 Isolated Worker 模式后,Application Insights 的请求日志中 `operation_Link` 字段为空,导致分布式追踪无法正常关联。解决方法包括:确保引用正确的 SDK 包(如 `Microsoft.Azure.Functions.Worker.ApplicationInsights`),正确配置 Application Insights 服务,移除默认日志过滤规则,并使用最新依赖包以支持分布式追踪。通过这些步骤,可恢复端到端事务视图的可视化效果。
197 10
|
存储 分布式计算 资源调度
通过日志聚合将作业日志存储在HDFS中
如何通过配置Hadoop的日志聚合功能,将作业日志存储在HDFS中以实现长期保留,并详细说明了相关配置参数和访问日志的方法。
339 1
通过日志聚合将作业日志存储在HDFS中
|
存储 消息中间件 大数据
大数据-69 Kafka 高级特性 物理存储 实机查看分析 日志存储一篇详解
大数据-69 Kafka 高级特性 物理存储 实机查看分析 日志存储一篇详解
357 4
|
存储 消息中间件 大数据
大数据-70 Kafka 高级特性 物理存储 日志存储 日志清理: 日志删除与日志压缩
大数据-70 Kafka 高级特性 物理存储 日志存储 日志清理: 日志删除与日志压缩
247 1
|
存储 消息中间件 大数据
大数据-68 Kafka 高级特性 物理存储 日志存储概述
大数据-68 Kafka 高级特性 物理存储 日志存储概述
144 1
|
存储 监控 固态存储
如何监控和优化 WAL 日志文件的存储空间使用?
如何监控和优化 WAL 日志文件的存储空间使用?
486 1
|
存储 SQL 专有云
支持配置审计日志的存储数据库
审计日志作为企业监管平台的重要依据,同时也是“等保三级”认证的必要考察项之一。Dataphin V4.3版本支持设置平台日志的存储数据源,帮助用户快速获取审计日志,同时介绍了不同部署模式的Dataphin如何查看审计日志的方法。
386 5
|
存储 监控 数据可视化
SLS 虽然不是直接使用 OSS 作为底层存储,但它凭借自身独特的存储架构和功能,为用户提供了一种专业、高效的日志服务解决方案。
【9月更文挑战第2天】SLS 虽然不是直接使用 OSS 作为底层存储,但它凭借自身独特的存储架构和功能,为用户提供了一种专业、高效的日志服务解决方案。
597 9
|
SQL 关系型数据库 MySQL
Hadoop-25 Sqoop迁移 增量数据导入 CDC 变化数据捕获 差量同步数据 触发器 快照 日志
Hadoop-25 Sqoop迁移 增量数据导入 CDC 变化数据捕获 差量同步数据 触发器 快照 日志
195 0

相关产品

  • 日志服务