课时1:日志服务 SLS 可观测数据分析平台介绍

简介: 课时1:日志服务 SLS 可观测数据分析平台介绍

数据洞察创新挑战赛-智能运维赛新手训练营:课时1:日志服务 SLS 可观测数据分析平台介绍

课程地址:https://developer.aliyun.com/trainingcamp/5cc00cbb4c9f4bd4a337d41e8d253f74?spm=a2cwt.28237621.J_9603273760.4.31b2b726xTbsZG

课时1:日志服务,SLS,可观测数据分析平台介绍

 

内容:

一、阿里云数据洞察创新挑战赛的介绍

二、学习智能运维赛道的课程

 

一、阿里云数据洞察创新挑战赛的介绍

数据洞察创新挑战赛是由阿里云主办的面向广大开发者的技术竞赛本次竞赛设置智能运维赛和数据创新管理赛两大赛道旨在鼓励开发者利用阿里云存储产品和服务开发出创新的应用和解决方案展示技术实力和创新思维为行业发展和社会进步贡献力量

本次大赛设有双赛道,共设置了20万元的奖金池,一等奖3万元现金共计会有12支队伍可以获得现金奖励
image.png

同时大赛还有四大玩法,玩法一新手训练营零基础参赛。选手可以免费参加智能预备赛、数据管理创新赛的新手训练营技术大咖在线教学,零基础快速上手阿里云存储产品轻松参赛,完成打卡任务即可领取免费试用,获得精美礼品玩法二多款云存储产品免费试用里云存储为新用户免费提供对象存储文件存储混合云备份日制服务表格存储等适用,祝您快速完成产品入门和实际体验

玩法三邀请好友助力取万元好礼可以邀请好友领取云存储产品的免费试用当邀请人数达到相应数量时,即可轻松领取包括天猫超市购物卡switch游戏机、GBL蓝牙降噪耳机等多重合好礼。

玩法四,云起实验室。云起实验室是由阿里云提供的门槛云上实践平台,可以免费体验云产品的功能和场景

本次大赛选手提交的创新应用方案将有机会沉淀在运气实验室成为大家的后续学习对象欢迎大家扫描左边二维码免费报名参赛大家还可以扫描右边的二维码加入大赛交流群,了解赛事的最新资讯

 

image.pngimage.png

 

大家也不用担心大赛的难度阿里云特意为大家准备了相应的新手训练营课程,帮助大家参赛


二、学习智能运维赛道的课程

随着云原生时代的到来,AIOps与可观测平台已经成为了企业关注的重点。接下来将介绍如何通过全链路的可观测数据融合数据应用大数据和AI的技术,并且结合各类的开源组件和开发框架等上下游的生态对接来帮助的企业运维平台,成为创新生产力的工具

1.为什么需要构建下一代的可观测的数据平台

从运维平台来看,数字化带来的趋势如何为客户带来极致的体验是最关键的竞争力1秒的延时增加都会带来7%的用户流失同时,数字化也在推动各行各业的一些业务创新,发布的节奏也越来越快混合云,云原生,容器化,微服DevOps些基础设施架构也在不断的革新运维数据和业务数据的些多样性也在不断的提升随着IT系统从单体式架构向分布式微服务云原生转变传统的运维的方案面临着巨大的挑战

例如:数据孤岛不同的数据在各种系统的数据孤岛中产生运维工具碎片化,通过行业的一些报告发现,搭建运维平台通常需要九种以上的工具并且还需要在多种工具之间来回切换告警时间过载,这意味着,企业每个月要面临上万条告警,导致重要的信息会被页面如何能够快速的发现问题,定位问题,也是用户体验方面临的巨大挑战

2. 解决方案

因此,需要构建下一代的可观测的数据平台分析解决方案首先,数据要联合应用打通,将的Log,Metic和Trace些数据做融合的关联分析其次,需要更易使用。通过更加开放的生态和技术方案来融合支撑的一些告警事件管理降低噪声,从而提高的效率最后,通过自动异常的检测,减少故障时间基于以上的挑战和需求SLS的一些智能的解决方案就能够去满足用户的需求来构建统一的可观测的数据分析平台。SLS为Log,Metical、Trace提供统一的存储与分析为用户提供智能化的Ops平台的工具,以及一些开箱用的应用
image.png

3.SLS非常关键的核心的功能架构

首先,SLS提供多维的数据采集与管道,强大的数据采集与分发基础能力提供一站式采集清洗入湖能力,采集端支持更多数据源,消费投递升级,支持更多目标源。

第二,SLS是统一的可观测数据平台存储,它支持了存储的分层,包括热存和冷存也提供了标准型和查询型,满足用户对于查询不同场景的计算能力的需求

第三,SLS提供了智能化运维的Ops的平台工具来构建AIOps的智能巡检及告警的运维的横向的能力支撑各种各样的场景化的应用

最后,上层还提供了各种xOps领域的场景化的应用发挥可观测数据融合的优势,面向业务提供一些应用,提供场景Insight,包括ITOps 开发运维应用、CloudLens 云产品可观测应用、SecOps 安全运维应用与FinOps 成本分析应用。提供场景Insight,包括ITOps 开发运维应用、CloudLens 云产品可观测应用、SecOps 安全运维应用与FinOps 成本分析应用来共同构筑开放集成的日志服务可观测数据分析平台的一些方案


image.png

接下来将讲解其中几点

第一,可观测数据统一的存储分析

第二智能化的Ops平台工具告警和智能检测

首先如何分析因为看到在当今的种数字化的业务的迭代越来越快多云架构和微服务架构带来的架构和迭代的灵活性,组件也越来越多因此,需要管理庞大和复杂的IT的系统,在过程当中需要去考虑怎么能够把数据平台不是传统的独立的烟囱和孤岛面对种复杂的IT系统的挑战,需要解决几个问题

一,工具碎品化

在构建可观测数据分析系统时,往往会遇到工具碎片化。例如:不同的监控的指标日志的数据的采集和存储都需要不同的工具,整体的方案的复杂性非常的高

第二,接入与分析过程面临扩展、性能、不统一的问题。

这些数据不同流程的链接、可扩展能力、分析性能上如何提升,需要具备秒级大规模、实时的能力,从而判断与处理分析机器学习能力的应用。

面对系统需要监控的对象、分析的数据越来越多的情况下,我们怎么利用一些算法,降低复杂度、减少噪声,解决人工规则无法覆盖的问题,减少整个分析的过程。

SLS的可观测数据平台的设计中很重要的一点就是能够提供统一的可观测存储它可以去支持不同类型的种可观测数据包括日志,指标等,都能够统一的囊括的SLS中它可以兼容可观测的数据的开源的生态客户就不需要去针对不同的可观测的数据去建设不同的存储系统使用不同的方式和API去查询分析过程当中,SLS能支持开放告及一些alert信息接入云监控等数据完美的接入。这意味着,通过SLS提供各类的可观测数据的接入统一存储与关联分析来支撑整个数据平台,打造关联融合分析的高效的融合分析来帮助用户去排查效率,提升用户体验接下来,如何解决不同系统当中产生的告警事件的统一管理与处理的一些问题SLS发布了一站式的智能告警它是开放的智能中枢,不仅能够对接SLS各类数据产生的告警也可以去对接阿里云上的其他系统触发的一些告警,以及客户自有系统的一些告警告警中心可以提供全局的监控,意味着多个告警的全局监控可以告警降噪,包含告警的去重、合并、路由、抑制、静默等去提高处理效率在动态分配中,可以提供多种条件的升级分派,并且结合排班来完成告警的动态分配

4.分享SLS的自适应的机器学习的异常检测

通过智能的异常检测可以发现隐患避免问题最终演变成严重的事故过程中,基于机器学习提高AIOps的能力支撑客户构建智能运维的系统SLS的智能巡检对组件、日志指标和事件数据都可以进行覆盖

 

image.png

因此,可以通过智能巡检发现隐患解决一些在人工设置预制中没有办法覆盖的问题因为在纯人工设置policy的规则时,会遇到很多的问题比如监控的对象非常的复杂人工设置会存在非常多的漏报和误报的问题而采用SLS的智能巡检的优化方式可以让客户通过巡检的结果的点击与处理反馈模型就可以去自动的去适配客户的数据与场景

SLS智能巡检内置了自适应的一些算法来支持不同的业务的一些特点的模型来提供反馈优化的能力也可以根据运维的开发检测异常反馈进一步迭代算法做进一步的优化

以上关于SLS可观测数据分析平台的讲解

 

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
1月前
|
运维 监控 数据挖掘
应用研发平台EMAS产品常见问题之将阿里后台的日志落到我们后台失败如何解决
应用研发平台EMAS(Enterprise Mobile Application Service)是阿里云提供的一个全栈移动应用开发平台,集成了应用开发、测试、部署、监控和运营服务;本合集旨在总结EMAS产品在应用开发和运维过程中的常见问题及解决方案,助力开发者和企业高效解决技术难题,加速移动应用的上线和稳定运行。
|
3月前
|
存储
优秀开源日志平台GrayLog5.0一键安装脚本
优秀开源日志平台GrayLog5.0一键安装脚本
90 0
|
3月前
|
Go 数据处理 Docker
elk stack部署自动化日志收集分析平台
elk stack部署自动化日志收集分析平台
80 0
|
2月前
电子书阅读分享《Elasticsearch全观测技术解析与应用(构建日志、指标、APM统一观测平台)》
电子书阅读分享《Elasticsearch全观测技术解析与应用(构建日志、指标、APM统一观测平台)》
235 1
|
1月前
|
Web App开发 监控 应用服务中间件
全新架构!日志服务 SLS 自研免登录方案发布
全新架构!日志服务 SLS 自研免登录方案发布
87442 7
|
2月前
|
SQL 数据采集 JSON
弱结构化日志 Flink SQL 怎么写?SLS SPL 来帮忙
弱结构化日志 Flink SQL 怎么写?SLS SPL 来帮忙
125174 136
|
2月前
|
存储 分布式计算 数据挖掘
Pig 数据分析平台
Pig 是一个基于 Hadoop 的数据分析平台,它是由 Yahoo! 开发并捐献给 Apache 软件基金会的一个开源项目。Pig 起源于 Yahoo! 的广告业务部门,旨在处理大规模数据并支持数据分析。【2月更文挑战第5天】
25 5
|
2月前
|
机器学习/深度学习 人工智能 DataWorks
人工智能平台PAI问题之日志报错误如何解决
人工智能平台PAI是指阿里云提供的机器学习平台服务,支持建模、训练和部署机器学习模型;本合集将介绍机器学习PAI的功能和操作流程,以及在使用过程中遇到的问题和解决方案。
53 0
人工智能平台PAI问题之日志报错误如何解决
|
2月前
|
监控 Java API
JDK 9新特性深度探索:平台日志API和服务
本文将深入探讨JDK 9中引入的平台日志API和服务。这一新特性为Java应用程序提供了更强大、灵活的日志记录功能,帮助开发者更好地监控和诊断应用程序的运行状况。本文将详细介绍平台日志API和服务的特性和优势,以及如何在项目中应用这一新特性来提升应用程序的稳定性和可维护性。
|
3月前
|
Linux Shell
开源日志平台GrayLog5.1.10 CentOS7一键安装脚本
开源日志平台GrayLog5.1.10 CentOS7一键安装脚本
102 0

相关产品

  • 日志服务