日志服务数据加工培训直播资料汇总: 扫平日志分析路上障碍, 实时海量日志加工实践

简介: 日志服务数据加工系列培训资料汇总: 扫平日志分析路上障碍, 实时海量日志加工实践
+关注继续查看

image

分享介绍
日志服务数据加工功能提供托管的自动伸缩的实时可靠数据加工服务,本次系列培训从实战案例角度完整介绍数据加工的主要场景. 包括功能语法、数据分发、结构与非结构化数据清洗、外部资源关联、并发可靠性与排错等,解决实日志数据在接入、分析、投递、对接时存在各种数据加工需求与问题。

第一讲——数据加工介绍与实战

直播时间: 8月7日 19:30-20:30
讲解人: 丁来强 (成喆)
直播介绍: : 介绍数据加工的各种痛点, 场景以及解决方案. 介绍与演示日志服务数据加工的功能, 概念, 原理, 控制台操作, 以及SLB数据加工实战等
视频回顾: https://yq.aliyun.com/live/1339
PPT下载: https://yq.aliyun.com/attachment/download/?id=6958

第二讲——DSL核心语法介绍

直播时间: 8月8日 19:30-20:30
讲解人: 丁来强 (成喆)
直播介绍: : 介绍与演示日志服务数据加工的核心与发的框架. 深入浅出的覆盖基础语法, 数据结构, 30+全局函数概述, 200+表达式函数概述, 以及类SLS/Lucene的查询字符串语法
视频回顾: https://yq.aliyun.com/live/1340
PPT下载: https://yq.aliyun.com/attachment/download/?id=6959

第三讲——DSL语法实践

直播时间: 8月13日 19:30-20:30
讲解人: 丁来强 (成喆)
直播介绍: : 逐步深入介绍日志服务的事件字段提取模式, 正则表达式实践, 400+GROK模式概览, 灵活强大的JMES语法. 以及ETL核心场景最佳实践: 函数调用、事件判断、日期时间处理等
视频回顾: https://yq.aliyun.com/live/1341
PPT下载: https://yq.aliyun.com/attachment/download/?id=6960

第四讲——动态数据分发汇集实践

直播时间: 8月14日 19:30-20:30
讲解人: 唐恺 (风毅)
直播介绍: : 介绍与演示数据加工对于跨账号多目标logstore数据分发. 以及跨账号多源logstore数据汇总的场景
视频回顾: https://yq.aliyun.com/live/1342
PPT下载: https://yq.aliyun.com/attachment/download/?id=6961

第五讲——非结构化数据解析实践

直播时间: 8月20日 19:30-20:30
讲解人: 唐恺 (风毅)
直播介绍: : 通过多个实战案例介绍日志服务数据加工如何全面灵活的支持非结构化数据的解析.
包括: 解析标准syslog协议框架、使用正则表达式与grok解析Ngnix日志、动态键值对KV加工, 特定格式的、特定格式文本的数据加工等
视频回顾: https://yq.aliyun.com/live/1343
PPT下载: https://yq.aliyun.com/attachment/download/?id=6962

第六讲——结构化化数据解析实践

直播时间: 8月21日 19:30-20:30
讲解人: 唐恺 (风毅)
直播介绍: : 通过多个实战案例介绍日志服务数据加工如何全面灵活的支持非结构化数据的解析.
包括:复杂JSON格式加工、多子键为数组的复杂JSON、多层数组对象嵌套的复杂JSON, 解析CSV格式日志等
视频回顾: https://yq.aliyun.com/live/1344
PPT下载: https://yq.aliyun.com/attachment/download/?id=6963

第七讲——数据映射富化实践

直播时间: 8月28日 19:30-20:30
讲解人: 唐恺 (风毅)
直播介绍: : 通过多个实战案例介绍日志服务数据加工对于数据富化的支持.
介绍如何从RDS-MySQL、Logstore、OSS等外部资源自动化加载数据支持各种维表更新与数据富化场景。也覆盖特定复杂逻辑映射的实战内容。
视频回顾: https://yq.aliyun.com/live/1349
PPT下载: https://yq.aliyun.com/attachment/download/?id=6964

第八讲——可靠性性与排错实践

直播时间: 8月29日 19:30-20:30
讲解人: 丁来强 (成喆)
直播介绍: : 深入浅出介绍介绍如何构建健壮性数据加工任务.
从异常错误监控, 到异常错误排查框架流程, 通过实战覆盖数据加工各个阶段的错误排查手段, 包括: 初始化错误排查, 读取错误, 加工错误, 输出错误等
视频回顾: https://yq.aliyun.com/live/1350
PPT下载: https://yq.aliyun.com/attachment/download/?id=6965

进一步技术交流

加入日志服务云栖技术交流群:
image

阿里云开发者群:
image

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
7天前
|
人工智能 运维 监控
在日常开发工作中,日志数据该如何利用?
在日常开发工作中,日志数据是一个宝贵的资源,它可以提供关于应用程序运行状态、错误报告、性能指标和用户行为等方面的重要信息。正确地利用和分析日志数据可以帮助开发人员更好地理解应用程序的运行情况,快速定位和解决问题,改进应用程序的性能,并为业务决策提供有力支持。尤其是在现代科技发展的背景下,日志数据作为一种重要的信息资源,对于运维工作具有极大的价值。然而,如何充分利用日志数据,并将其应用于运维和开发工作中,仍然是许多企业和运维和开发人员关注的问题。那么本文就来分享一下在日常开发中关于日志数据的利用方面的探讨。
29 1
在日常开发工作中,日志数据该如何利用?
|
9天前
|
存储 人工智能 运维
日常工作中,你对于日志数据都是如何利用的?
近期阿里云宣布日志服务 SLS 内核迎来全新升级(https://developer.aliyun.com/topic/sls_pay_by_ingested_data1?spm=a2c6h.13066369.question.3.7f77533dUZ1xiM),通过运维领域模型加持,全链路提升智能分析能力,以更稳定、更智能、更高效、更普惠的平台全方面帮助企业加速拥抱云原生和AI;目前我公司日志服务的使用场景,以及公司自研的日志系统。
24 1
|
15天前
|
关系型数据库 物联网 PostgreSQL
沉浸式学习PostgreSQL|PolarDB 11: 物联网(IoT)、监控系统、应用日志、用户行为记录等场景 - 时序数据高吞吐存取分析
物联网场景, 通常有大量的传感器(例如水质监控、气象监测、新能源汽车上的大量传感器)不断探测最新数据并上报到数据库. 监控系统, 通常也会有采集程序不断的读取被监控指标(例如CPU、网络数据包转发、磁盘的IOPS和BW占用情况、内存的使用率等等), 同时将监控数据上报到数据库. 应用日志、用户行为日志, 也就有同样的特征, 不断产生并上报到数据库. 以上数据具有时序特征, 对数据库的关键能力要求如下: 数据高速写入 高速按时间区间读取和分析, 目的是发现异常, 分析规律. 尽量节省存储空间
114 1
|
28天前
Python-初识正则表达式-指定匹配简单的日志数据
Python-初识正则表达式-指定匹配简单的日志数据
18 0
|
1月前
|
消息中间件 数据采集 JSON
1、电商数仓(用户行为采集平台)数据仓库概念、用户行为日志、业务数据、模拟数据、用户行为数据采集模块、日志采集Flume(二)
1、电商数仓(用户行为采集平台)数据仓库概念、用户行为日志、业务数据、模拟数据、用户行为数据采集模块、日志采集Flume(二)
|
1月前
|
消息中间件 数据采集 SQL
1、电商数仓(用户行为采集平台)数据仓库概念、用户行为日志、业务数据、模拟数据、用户行为数据采集模块、日志采集Flume(一)
1、电商数仓(用户行为采集平台)数据仓库概念、用户行为日志、业务数据、模拟数据、用户行为数据采集模块、日志采集Flume(一)
|
2月前
|
前端开发 Java
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
37 0
|
3月前
|
存储 弹性计算 监控
从数据到洞察:在阿里云ECS上搭建ELK实现日志分析与可视化
ELK(Elasticsearch, Logstash, Kibana)是一个强大的开源日志管理解决方案,被广泛用于收集、存储、搜索、分析和可视化大规模的日志数据,本文主要分享了如何在阿里云ECS上搭建ELK实现日志分析与可视化。
6131 0
|
4月前
|
Oracle 关系型数据库 数据库
使用日志传输的方法在两个数据库之间同步数据
源 oracle18:oracle18c-standby 192.168.17.26 目标 oracle18-2:oracle18c-primary 192.168.17.109
|
4月前
|
存储 Java Apache
Apache ZooKeeper - ZK的内存数据 + 持久化事务日志 + 数据快照 初探
Apache ZooKeeper - ZK的内存数据 + 持久化事务日志 + 数据快照 初探
81 0
相关产品
日志服务
推荐文章
更多