日志服务数据导入

简介: 本场景介绍如何通过日志服务数据导入方式,将OSS数据导入到日志服务。

体验简介

本场景将提供一台配置了CentOS 7.7版本的ECS实例(云服务器)。通过本教程的操作,您可以基于已有环境快速采集Nginx日志。

体验此场景后,可以掌握的知识有:

日志服务数据导入基本操作。

背景知识

本场景主要涉及以下云产品和服务:

日志服务:
日志服务SLS是云原生观测与分析平台,为Log、Metric、Trace等数据提供大规模、低成本、实时的平台化服务。日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能,全面提升您在研发、运维、运营、安全等场景的数字化能力。

云服务器ECS:
云服务器(Elastic Compute Service,简称ECS)是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS(Infrastructure as a Service)级别云计算服务。云服务器ECS免去了您采购IT硬件的前期准备,让您像使用水、电、天然气等公共资源一样便捷、高效地使用服务器,实现计算资源的即开即用和弹性伸缩。阿里云ECS持续提供创新型服务器,解决多种业务需求,助力您的业务发展。

上传日志文件

1、打开虚拟桌面的FireFox ESR浏览器,在RAM用户登录页面,输入云产品资源列表中的子用户名称,然后单击下一步。
O1CN01LgofOJ25mC7jFwCr7_!!6000000007568-2-tps-551-452.png
2、在用户密码页面,输入云产品资源列表中的子用户密码,然后单击登录。

O1CN01mxJ7XF1znDJEkLp2I_!!6000000006758-2-tps-591-467.png
O1CN01QvdRVI1mJoswyarYX_!!6000000004934-2-tps-493-280.png

3、在浏览器中打开新页签,访问如下地址,下载测试日志文件。

https://sls-shiyanshi.oss-cn-hangzhou.aliyuncs.com/sls/testlog.csv

4、在浏览器中打开新页签,复制如下对象存储OSS控制台地址,粘贴到地址栏中并访问。

https://oss.console.aliyun.com/

5、在对象存储控制台左侧导航栏中,单击Bucket列表。
O1CN01KhipY41LOrcZDtuNf_!!6000000001290-2-tps-261-611.png
6、在Bucket列表页面,单击Bucket名称。
O1CN01ttJYf11ZgBDb7ETqQ_!!6000000003223-2-tps-1882-311.png
7、在文件管理页面,单击新建目录。
O1CN01FykI2O22mhiYmSYgo_!!6000000007163-2-tps-1144-578.png
8、在新建目录对话框中,输入目录名sls,单击确定。
O1CN01GioH7r1sfF6gqxlOS_!!6000000005793-2-tps-627-816.png
9、在文件管理页面,单击文件名sls。
O1CN01sqZEpp27Kph5dOsdO_!!6000000007779-2-tps-693-165.png
10、在sls目录中,单击上传文件。
O1CN01aeKDb61je1VbeNpsh_!!6000000004572-2-tps-757-426.png
11、在上传文件页面,文件ACL选择公共读,单击扫描文件,找到目录/home/adc/下载,选择下载好的测试日志test.log,然后单击上传文件。
O1CN014wHr3I1HTCucr187g_!!6000000000758-2-tps-1127-770.png

在任务列表页面,等待状态变为上传成功,表示测试日志文件已经上传成功到OSS。

O1CN01dNB8ta1D9HDaLEcCd_!!6000000000173-2-tps-947-373.png

创建Logstore

1、在浏览器中打开新页签,复制如下日志服务控制台地址,粘贴到地址栏中并访问。

https://sls.console.aliyun.com/

2、在日志服务控制台页面下方的Project列表区域,选择云产品资源列表中Project name,然后单击Project名称。
O1CN01Tm2sNW1NniLLgwDAC_!!6000000001615-2-tps-492-75.png
O1CN01r2wKOU1m6znNd98uE_!!6000000004906-2-tps-1524-917.png
3、在左侧日志库功能栏中,单击
O1CN01d6igka1YLHWta5jqb_!!6000000003042-2-tps-23-22.png
请添加图片描述
4、在创建Logstore对话框中,输入Logstore名称,打开WebTracking开关,然后单击确定。
参数说明:

Logstore名称:自定义Logstore名称,在其所属Project内必须唯一。创建Logstore成功后,无法更改其名称。

WebTracking:打开WebTracking开关,您可以通过WebTracking从HTML、H5、iOS或Android上采集数据到日志服务。
O1CN0121yjYP1mc8jC3YXDp_!!6000000004974-2-tps-625-874.png
5、在创建成功对话框中,单击取消。
O1CN01DUAUA01kPCJ2O9jUF_!!6000000004675-2-tps-598-234.png

导入OSS数据

1、在日志服务控制台的接入数据区域,单击OSS-对象存储。
O1CN012PxPDY1m9kAjrHAae_!!6000000004912-2-tps-1504-843.png
2、在选择日志空间页面,在项目Project中选择云产品资源列表中的Project name,在日志库Logstore中选择步骤三中创建的Logstore,然后单击下一步。
请添加图片描述
3、在数据源设置页面,输入配置名称,选择OSS Region、Bucket,输入文件夹前缀,选择数据格式,然后单击预览。
参数说明:

配置名称:自定义配置名称。

OSS Region:待导入的OSS文件所在Bucket的地域,可在云产品资源列表中查看Bucket的地域。

Bucket:待导入的OSS文件所在的Bucket,可在云产品资源列表中查看Bucket Name。

文件夹前缀:待导入的OSS文件所在文件夹的前缀,输入sls/。

数据格式:文件的解析格式,选择单行文本日志。

O1CN01gzMzqi1kUEf5WECzP_!!6000000004686-2-tps-1167-753.png

4、在文件预览结果框中,预览数据,结果无误后,单击下个配置。
O1CN01e8A2lb1WQCYEgZRpm_!!6000000002782-2-tps-996-278.png

5、在数据格式配置页面,单击测试,测试结果无误后,单击下个配置。
O1CN01FRDr8q1n1muP1UcBC_!!6000000005030-2-tps-1192-589.png

6、在调度间隔页面,打开立即执行,单击下一步。
O1CN01qAekxG1Oc5uW9l5Tg_!!6000000001725-2-tps-1342-406.png

7、在查询分析配置页面,单击下一步。
O1CN01Ipm5Tx1jo6DtN2Oqd_!!6000000004594-2-tps-1330-731.png
8、在结束页面,单击查询日志。
O1CN01KVgway1EeFcMtB5cm_!!6000000000376-2-tps-1227-266.png
9、在查询分析对话框中,单击确定。
O1CN01hSQzTM21eAitkXaB0_!!6000000007009-2-tps-661-185.png
10、在查询分析页面,稍等几分钟后,单击查询/分析,即可查询到从OSS导入的日志数据。
O1CN01HjJ05J1idHFQvVJpR_!!6000000004435-2-tps-1617-374.png

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
相关文章
|
10月前
|
SQL 人工智能 监控
SLS Copilot 实践:基于 SLS 灵活构建 LLM 应用的数据基础设施
本文将分享我们在构建 SLS SQL Copilot 过程中的工程实践,展示如何基于阿里云 SLS 打造一套完整的 LLM 应用数据基础设施。
3133 111
|
10月前
|
数据采集 运维 监控
不重启、不重写、不停机:SLS 软删除如何实现真正的“无感数据急救”?
SLS 全新推出的「软删除」功能,以接近索引查询的性能,解决了数据应急删除与脏数据治理的痛点。2 分钟掌握这一数据管理神器。
852 52
|
存储 缓存 Apache
StarRocks+Paimon 落地阿里日志采集:万亿级实时数据秒级查询
本文介绍了阿里集团A+流量分析平台的日志查询优化方案,针对万亿级日志数据的写入与查询挑战,提出基于Flink、Paimon和StarRocks的技术架构。通过Paimon存储日志数据,结合StarRocks高效计算能力,实现秒级查询性能。具体包括分桶表设计、数据缓存优化及文件大小控制等措施,解决高并发、大数据量下的查询效率问题。最终,日志查询耗时从分钟级降至秒级,显著提升业务响应速度,并为未来更低存储成本、更高性能及更多业务场景覆盖奠定基础。
|
11月前
|
存储 缓存 Apache
StarRocks+Paimon 落地阿里日志采集:万亿级实时数据秒级查询
A+流量分析平台是阿里集团统一的全域流量数据分析平台,致力于通过埋点、采集、计算构建流量数据闭环,助力业务提升流量转化。面对万亿级日志数据带来的写入与查询挑战,平台采用Flink+Paimon+StarRocks技术方案,实现高吞吐写入与秒级查询,优化存储成本与扩展性,提升日志分析效率。
1454 1
|
SQL 监控 数据挖掘
SLS 重磅升级:超大规模数据实现完全精确分析
SLS 全新推出的「SQL 完全精确」模式,通过“限”与“换”的策略切换,在快速分析与精确计算之间实现平衡,满足用户对于超大数据规模分析结果精确的刚性需求。标志着其在超大规模日志数据分析领域再次迈出了重要的一步。
1054 118
|
存储 NoSQL MongoDB
Docker中安装MongoDB并配置数据、日志、配置文件持久化。
现在,你有了一个运行在Docker中的MongoDB,它拥有自己的小空间,对高楼大厦的崩塌视而不见(会话丢失和数据不持久化的问题)。这个MongoDB的数据、日志、配置文件都会妥妥地保存在你为它精心准备的地方,天旋地转,它也不会失去一丁点儿宝贵的记忆(即使在容器重启后)。
1662 4
|
11月前
|
存储 关系型数据库 数据库
【赵渝强老师】PostgreSQL数据库的WAL日志与数据写入的过程
PostgreSQL中的WAL(预写日志)是保证数据完整性的关键技术。在数据修改前,系统会先将日志写入WAL,确保宕机时可通过日志恢复数据。它减少了磁盘I/O,提升了性能,并支持手动切换日志文件。WAL文件默认存储在pg_wal目录下,采用16进制命名规则。此外,PostgreSQL提供pg_waldump工具解析日志内容。
997 0
|
11月前
|
数据采集 运维 监控
|
存储 Oracle 关系型数据库
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
本文介绍了MySQL InnoDB存储引擎中的数据文件和重做日志文件。数据文件包括`.ibd`和`ibdata`文件,用于存放InnoDB数据和索引。重做日志文件(redo log)确保数据的可靠性和事务的持久性,其大小和路径可由相关参数配置。文章还提供了视频讲解和示例代码。
512 11
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件