拥抱开源生态-SLS仪表盘与Grafana全面互通

本文涉及的产品
可观测监控 Prometheus 版,每月50GB免费额度
可观测可视化 Grafana 版,10个用户账号 1个月
日志服务 SLS,月写入数据量 50GB 1个月
简介: 2017年前:第三方可视化的依赖在最开始的阶段,SLS还未自研可视化仪表盘,只能通过接入第三方可视化来实现日志服务的可观测。包括:来实现日志服务的可观测。包括:DataV [历史文章] [最新文档]历史文章最新文档Grafana [历史文章] [最新文档]历史文章最新文档Tableua(通过JDBC...

SLS数据可视化发展简史

2017年前:第三方可视化的依赖

在最开始的阶段,SLS还未自研可视化仪表盘,只能通过接入第三方可视化来实现日志服务的可观测。包括:

image

图片来源:《如此简单的日志可视化方案,还不快来制作属于你的仪表盘》作者:沐自

2018-2020:自研与能力的闭环

随着日志服务能力的提升、用户需求的不断增加,很容易听到这样的呼声:

  • 功能增强:如何增加仪表盘订阅(定时发送邮件、钉钉等)、配置告警、高精度国内外地图、复合图表

  • 数据互通:如何从图表中快速跳转SLS日志服务的查询页面

  • 仪表盘互通:如何关联几个相关仪表盘并互相跳转,并且支持各类变量的传递

  • 二次嵌入:如何将仪表盘和企业内的系统平台打通,关联企业内权限与阿里云权限

  • 问题排查:第三方可视化平台上发现了异常,如何定位是三方平台问题、插件问题还是SLS后端问题

这些需求和问题,纯粹通过三方可视化平台很难解决,因此,SLS在三方可视化的基础上,设计了一套阿里云日志服务可视化仪表盘,并包含表格、折线图、柱状图、条形图、饼图、数字图、面积图、地图、流图、桑基图、词云等10余种图表类型,且根据日志服务产品特性,针对性提供了强交互式、灵活变换、开放性强的可视化能力。真正实现了采集-计算-存储-可观测自研能力的闭环。

image

图片来源:《如此简单的日志可视化方案,还不快来制作属于你的仪表盘》作者:沐自

2021-2023:性能与表现的跃进

伴随着日志服务数据量、用户量的快速增长,可视化上的诉求也越来越多,在这两年也陆续发布了二十多种图表类型,用户已经在SLS中创建了数百万张仪表盘,仪表盘页面每周有数十万次访问。

随着数据量不断膨胀,V1版本可视化的性能瓶颈越发突出:当线图点数超过2000时,图表卡顿非常明显;而且同一个仪表盘可能同时存在数十张大数据量的图表,浏览器页签经常崩溃。为此,SLS推出了全新的可视化架构,一方面优化了性能,另一方面统一配置逻辑,支持多查询等。ref:《SLS全新可视化功能发布》作者:灵亦

image image

图片来源:《SLS全新可视化功能发布》作者:灵亦

生态互通的期待

以Grafana为代表的开源可视化

Grafana是一个基于 Web 的开源可观察性和数据可视化平台。它以创建出色的数据可视化的能力而闻名。支持连接到不同的多个数据源或存储,包括 Elasticsearch、Prometheus、InfluxDB 等等。它收集数据,包括Metric、Log、和Trace,并生成可视化效果。

Grafana在可观测数据可视化具有非常大的影响力和用户群体。而SLS也在产品发布初期就支持对接Grafana。SLS日志服务的仪表盘设计初衷是强交互式、灵活变换、开放性强,具备更多更切合日志场景的可观测能力。因此从总体上看,在日志服务场景下,SLS的仪表盘可以更切合用户需求,更灵活。而Grafana更擅长监控、时序领域的可观测能力。但总体上都是针对可观测场景,因此两者还是有很多共同的场景。

可视化方案屏障

在过去,用户可以选择使用SLS或者Grafana的可视化方案,但两者的方案都需要单独建设,如果想从Grafana仪表盘想转到SLS仪表盘,需要逐个复制语句、调整语句、调整图表位置。存在这样一批用户,他们使用了SLS的存储,而因为历史原因仪表盘使用了Grafana,想更换为SLS仪表盘以体验更多高级“黑科技”功能时,由于仪表盘迁移工作太过繁琐,最终望而却步。同样,从SLS转为Grafana也有与之类似的问题。

迁移,如今不再繁琐

如今SLS日志服务往前更进一步,推出了SLS仪表盘与Grafana互转互通的能力,1分钟内就能完成SLS转Grafana或Grafana转SLS。让两个产品之间用户的互通更加便捷。相比之前手动的模式,互转能力带来了如下改变:

  • 更方便地转化操作,无需一条条复制语句,调整图表,实现准确快速的跨平台仪表盘迁移。

  • 更多的仪表盘使用机会,打破两者用户“转化难”的困境。

  • 更多样的生态引入,支持Grafana仪表盘转化SLS,意味着间接引入广阔的Grafana Template广场。

  • 更广阔的进步空间,生态拉通给予用户更多的选择权,进一步促进SLS提升用户体验。

如何使用互转功能

此次升级的核心功能如下:

  • 新建仪表盘支持多种方式,包括“导入Grafana仪表盘”

  • SLS仪表盘支持“转为Grafana仪表盘”

前提条件

若以最佳方式使用仪表盘转化,需要明确几个前提条件:

  • Grafana需安装SLS数据源插件v2,需保证Grafana版本号不小于8.0.0。详见插件配置文档

  • 目前互相转化注重变量、语句、图表的功能性转化,在图表细节上(线型、定制化等)暂不涉及,如有需要,将在未来逐步完善升级转化功能。更具体的能力支持范围见本文的后续章节说明。

  • 支持Grafana中Prometheus、SLS插件作为数据源,其他数据源暂不支持。

导入Grafana仪表盘

使用文档:https://help.aliyun.com/document_detail/474599.html

目前,导入Grafana仪表盘到日志服务功能处于公测中。如果您要提前使用该功能,请联系我们开放权限。

核心功能展示

image

操作步骤:

  1. 在您的Grafana中找到希望转化到SLS的仪表盘,单击“Dashboard Settings”image,单击“JSON Model”。

  2. Ctrl+A复制当前界面全部Json内容,回到SLS仪表盘界面。

  3. 单击左侧菜单“仪表盘”,在弹出侧边栏中点击image,单击“导入Grafana仪表盘”,弹出导入页面。

  4. 将上述Json内容粘贴在编辑框中,点击“解析json”。

  5. 选择grafana数据源对应的SLS数据源。全部选择完成后,单击“下一步”。

  6. 查看转换提示信息,单击“生成仪表盘”。

  7. 此时即跳转到转化后仪表盘,可继续浏览、编辑内容。

多种方式导入

您可以通过复制仪表盘json的方式导入,也可以通过json文件进行导入。

image

如何快速找到Grafana datasource id对应的Logstore

在导入Grafana仪表盘的第二步中,如果您的Grafana版本比较新,id是一组9位的字符串。进入Grafana数据源页面,点击具体数据源,在URL处可找到:{ {您的Grafana IP+端口}}/datasources/edit/{ {该数据源id}}。导入工具也提供一个简便方法,可以将您的Grafana 域名或IP+端口号,输入表单上方的地址栏,此时会提供id链接,此链接会跳转到您输入的地址,并打开对应id的数据源。

image

如果您的Grafana版本较老(例如8.1.0),id不是字符串,而是您的数据源命名,此时就无需此功能,可以直接看出对应的Logstore。

image

能力范围

支持

不支持

图表种类

TimeSeries Bar chart Bar gauge Table Stat GaugePie chart Pie chart(old)Text Row

其他图表

原因:1. 插件暂不支持该图。 2. 图表语句的写法与在SLS不同。eg. Geomap

数据源

Prometheus

log-service-datasource (SLS插件)

其他数据源暂不支持。

变量

Query (SLS数据源)

Custom

Text box

Query (Prometheus数据源)

其他剩余不常用类别

Query转换

Prometheus: PromQL

SLS: SQL

SLS: (SQL+Promql)

Grafana Random Walk

Grafana Live Measurements

Grafana List public files

image

图表样式

位置、大小、标题匹配

PromQL Legend 匹配

其余定制化样式、自定义样式(Override)等暂不支持转换。

以SLS默认样式转换。

其他功能

其他不常用、无法等价转换的功能。

TransformExpressionAnnotationsLinksPermissions

SLS仪表盘转换到Grafana

使用文档:https://help.aliyun.com/document_detail/474601.html

目前,转换到Grafana仪表盘到日志服务功能处于公测中。如果您要提前使用该功能,请联系我们开放权限。

核心功能展示

image

操作步骤:

  1. 找到希望转化到Grafana的仪表盘,单击“编辑”-“设置”,切换到“转为Grafana仪表盘”Tab页。

  2. 选择您的Grafana版本号。

  3. 点击错误按钮查看转化错误提示信息。

  4. 点击“复制Grafana格式json”,或点击“下载Grafana格式json”获取内容。

  5. 到您的Grafana页面,依次点击“Dashboards”-“Browse”-“New”-“Import”,将上述文件上传或粘贴。

  6. 选择提示的Logstore在Grafana的位置。完毕后点击“Import”。

  7. 此时即可查看转化后的仪表盘。

详细的转化提示信息

在转化完成后,会展示详细的转化提示信息,该信息包含转化不支持提示、错误提示、格式规范矫正提示等。点击按钮后可在侧边栏查看所有卡片内容。

image

能力范围

支持

不支持

图表种类

表格Pro 线图Pro 柱状图Pro 流图Pro 统计图Pro 计量图Pro 饼图Pro Metric Prometheus 表格(old) 单值图(old) Text Markdown Row

其他图表

原因:1. Grafana/插件暂不支持该图。 2. 图表语句的写法与在SLS不同。eg.高德地图

数据源

LogStore(SQL) MetricStore(PromQL) MetricStore(SQL) Builtin

变量

变量替换

过滤器(Grafana不具备该功能)

Query转换

所有数据源的变量语句替换 内置变量替换

图表样式

位置、大小、标题匹配

Legend 匹配

其余定制化样式、自定义样式等暂不支持转换。

以Grafana默认样式转换。

其他功能

网格布局

其他无法等价转换的功能。

数据转换交互事件字段配置自由布局

其他限制(若触发,在转化提示信息中均会显示)

  • SLS 的过滤器/变量替换组件 相比于Grafana功能更丰富。转化需要注意:

    • ①Grafana只支持SLS变量替换,过滤器不支持。

    • ②Grafana不支持query与常值并存。

    • ③Grafana不支持仪表盘输入自定义Key名称。

  • Grafana不支持SLS的自由布局,转换后会出现布局混乱。切换为网格布局可以达到较高还原度。

  • 部分配置缺失(例如x轴或y轴配置)可能会造成图表显示问题,需要检查【查询分析配置】。部分情况下,必须设置完全,以适配Grafana插件(即使在SLS可以显示成功)。且由于Grafana限制,尽量避免选择“所有数字字段”。

  • SLS的单值图配置更丰富,包括同环比、定制化等功能,在Grafana无法设置。只可转化主数值部分。

  • Grafana表格配置功能较少,无法复现SLS表格配置。SLS的表格配置支持更自由的自定义功能,比如迷你线图迷你柱状图,以及自定义交互事件,搭配过滤器等。在Grafana均无法实现。将转化语句及基本配置。

Grafana多版本适配情况

Grafana -> SLS

SLS -> Grafana

7.x及以下

❌不适配。SLS插件必须为v2版本。

8.0.0

✅适配

✅适配

8.1.0

✅适配

✅适配

8.2.0

✅适配

✅适配

8.3.x

✅适配

不推荐。该版本存在混合数据源卡死问题。

8.4.0

✅适配

✅适配

8.5.0

✅适配

✅适配

9.0.0

✅适配

✅适配

9.2.4

✅适配

✅适配

总结与后续工作

此次升级主要满足具有Grafana与SLS仪表盘互相转化的用户需求,不再需要繁琐地一个个复制语句、调整语句、调整图表位置,同时给SLS的仪表盘生态带来更多可能性。

后续SLS将继续完善并扩充转换能力,并持续关注开源生态,做好版本适配。欢迎大家体验SLS仪表盘的生态扩展,如果有其他使用上的建议,也欢迎大家在评论区留言人。

相关实践学习
通过可观测可视化Grafana版进行数据可视化展示与分析
使用可观测可视化Grafana版进行数据可视化展示与分析。
相关文章
|
3月前
|
Prometheus 数据可视化 Cloud Native
构建交互式的 Grafana 仪表盘
【8月更文第29天】Grafana 是一个功能强大的数据可视化工具,它支持多种数据源并能够创建高度定制化的仪表盘。通过使用交互式面板,用户可以更直观地探索数据并进行数据分析。本文将介绍如何设计和实现用户友好的交互式面板,以提高数据分析效率,并提供具体的代码示例。
115 2
|
3月前
|
Prometheus 监控 Cloud Native
Grafana 入门指南:快速上手监控仪表盘
【8月更文第29天】Grafana 是一款开源的数据可视化和监控工具,它允许用户轻松地创建美观的仪表盘和图表,以便更好地理解和监控数据。无论您是需要监控系统性能指标、应用程序日志还是业务关键指标,Grafana 都能提供灵活而强大的解决方案。本指南将带领您快速上手 Grafana,包括安装、配置以及创建第一个监控面板。
505 1
|
6月前
|
SQL 数据可视化 应用服务中间件
[SLS开源兼容系列] 使用Grafana ES插件访问SLS
场景如果您厌倦了使用SQL来做Grafana图表,现在SLS刚好实现了ES接口兼容,可以使用GrafanaES来连。可以获得以下特性不需要安装GrafanaSLS的插件,使用Grafana自带的ES插件即可使用ES插件配置图表,不需要写SQL就可以快速配置漂亮的图表
191 2
|
6月前
|
SQL 数据可视化 关系型数据库
Grafana【实践 01】Greenplum和InfluxDB数据源添加及仪表盘测试
Grafana【实践 01】Greenplum和InfluxDB数据源添加及仪表盘测试
187 0
|
Prometheus 运维 监控
Grafana接入SLS开放告警
Grafana是监控运维场景下常用的开源系统,它丰富易用的可视化界面极大的方便了开发运维的工作。但是另一方面,Grafana自带的告警功能较为简单,不能很好的满足日常需求。新版SLS告警提供了丰富易用的告警功能,能够很好的补足Grafana的告警功能,并且支持通过包括短信、电话、微信、钉钉、邮箱在内的10多种通知渠道发送给用户。
1323 0
|
存储 机器学习/深度学习 Prometheus
SLS时序监控实战: Grafana使用入门
Grafana是一个非常受欢迎的开源可视化工具, 经常和Prometheus InfluxDB, OpenTSDB等一起配合使用, 它有非常丰富的图表类型, 以及异常灵活的设置选项, 本文是一篇入门教程, 期望通过这篇教程能帮助大家入门Grafana, 并可以和SLS的时序存储结合使用
2742 0
 SLS时序监控实战: Grafana使用入门
|
10天前
|
Prometheus 运维 监控
智能运维实战:Prometheus与Grafana的监控与告警体系
【10月更文挑战第26天】Prometheus与Grafana是智能运维中的强大组合,前者是开源的系统监控和警报工具,后者是数据可视化平台。Prometheus具备时间序列数据库、多维数据模型、PromQL查询语言等特性,而Grafana支持多数据源、丰富的可视化选项和告警功能。两者结合可实现实时监控、灵活告警和高度定制化的仪表板,广泛应用于服务器、应用和数据库的监控。
71 3
|
11天前
|
Prometheus 监控 Cloud Native
基于Docker安装Grafana和Prometheus
Grafana 是一款用 Go 语言开发的开源数据可视化工具,支持数据监控和统计,并具备告警功能。通过 Docker 部署 Grafana 和 Prometheus,可实现系统数据的采集、展示和告警。默认登录用户名和密码均为 admin。配置 Prometheus 数据源后,可导入主机监控模板(ID 8919)进行数据展示。
46 2
|
9天前
|
Prometheus 运维 监控
智能运维实战:Prometheus与Grafana的监控与告警体系
【10月更文挑战第27天】在智能运维中,Prometheus和Grafana的组合已成为监控和告警体系的事实标准。Prometheus负责数据收集和存储,支持灵活的查询语言PromQL;Grafana提供数据的可视化展示和告警功能。本文介绍如何配置Prometheus监控目标、Grafana数据源及告警规则,帮助运维团队实时监控系统状态,确保稳定性和可靠性。
52 0
|
3月前
|
Prometheus 监控 Cloud Native
自定义grafana_table(数据源Prometheus)
综上所述,自定义 Grafana 表格并将 Prometheus 作为数据源的关键是理解 PromQL 的查询机制、熟悉 Grafana 面板的配置选项,并利用 Grafana 强大的转换和自定义功能使数据展示更为直观和有洞见性。随着对这些工具更深入的了解,您将可以创建出更高级的监控仪表盘,以支持复杂的业务监控需求。
258 1
下一篇
无影云桌面