地理数据可视化探索——SLS的地图演变之路

本文涉及的产品
对象存储 OSS,20GB 3个月
阿里云盘企业版 CDE,企业版用户数5人 500GB空间
对象存储 OSS,恶意文件检测 1000次 1年
简介: 伴随着阿里云日志服务(SLS)面向的客户群体不断变化,接入的日志数据种类日益增多,地理类数据成为了日志数据分析中越来越常见的一类数据形式。数据可视化应用的火爆发展,地理数据的可视化也萌发出了大量的需求,大规模地理数据可视化分析,从业务上来看一直是个难点,地理数据的存储,计算,分析,可视化,产品应用等各个方面都需要综合起来考虑。

前言

伴随着阿里云日志服务(SLS)面向的客户群体不断变化,接入的日志数据种类日益增多,地理类数据成为了日志数据分析中越来越常见的一类数据形式。数据可视化应用的火爆发展,地理数据的可视化也萌发出了大量的需求,大规模地理数据可视化分析,从业务上来看一直是个难点,地理数据的存储,计算,分析,可视化,产品应用等各个方面都需要综合起来考虑。本文将简单介绍一下日志服务在地理类日志数据可视化分析中的探索,并提供部分目前支持的地理类可视化工具demo。

有哪些地理类数据?

地理数据是直接或间接关联着相对于地球的某个地点的数据,地理类数据种类繁多,涉及的知识面也各不相同。比较学术类的就不展开,感兴趣的可以去同学可以了解一下GIS系统,就我们生活中常见的地理类数据无非就以下两种:

1. POI数据(Point of interest/Point of information)

POI数据,又称为信息点/兴趣点,常常出现在地图表达中,一个 POI 可代表一栋大厦、一家商铺、一处景点等等。通过POI搜索,完成找餐馆、景点、找厕所等等的功能,生活中最常见的描述一个位置点的方式:

  • 阿里巴巴飞天园区
  • 浙江省杭州市西湖区云梦路与河山街交叉口西北角
  • 浙江省杭州市余杭区文一西路969号淘宝城一期

通过自然语言去描述一个位置信息,通俗易懂,各大地图类厂商都有自己的POI数据库,POI数据一般还有多种分类,如“餐饮服务”、“商务住宅”、“生活服务”等

POI描述位置信息

图(1).POI数据描述地理位置信息

2. Geo数据(Geography)

更加专业的地理信息描述方式,通过经度、维度、海拔相结合即可描述出一个三维空间的地理位置。在数字化地理信息中,我们经常能接触到诸如geo.json这一类数据用于描述一组地理位置信息的集合,常见的格式有:

  • ESRI Shapefile(shp)
    是美国环境系统研究所公司(ESRI)开发的一种空间数据开放格式。该文件格式已经成为了地理信息软件界的一个开放标准。
  • GeoJSON
    GeoJSON是一种对各种地理数据结构进行编码的格式,基于Javascript对象表示法的地理空间信息数据交换格式,web端友好
  • TopoJSON
    TopoJSON 是 GeoJSON 按拓扑学编码后的扩展形式。使用点、弧(有向线)来表示图形。

在线生成geoJson小工具

图(2).GeoJson描述地理位置信息

日志里的地理信息

了解了一些常见的地理类数据后,我们回归到日志领域,来看一下SLS在日志类信息中如何去做地理数据可视化分析。

1.早期的DevOps

谈到日志,我们最先想到的还是DevOps领域。在早期接入的各类数据源中,访问日志、错误日志、监控日志占据绝大多数,其中并没有直接和地理位置挂钩的信息数据,但我们能间接地通过一些常见的数据来推导地理位置信息,比如:

  • ip
  • 电话号码

基于此类需求,日志服务提供了丰富的ip函数和电话号码转换函数来处理这一类的信息并输出地理位置可视化图表

* | SELECT 
    mobile_city(try_cast("mobile" AS bigint)) AS "城市",
    mobile_province(try_cast("mobile" AS bigint)) AS "省份", 
    COUNT(1) as "请求次数" 
    GROUP BY "省份", "城市" ORDER BY "请求次数" DESC LIMIT 100

图(3).电话号码转换地图

* | SELECT
     ip_to_country(remote_addr) AS "国家", 
     count(1) AS c GROUP BY "国家" LIMIT 10

2. 逐渐成型的经纬度信息

随着日志种类的丰富,简单的地图不能完全满足用户的需求,主要的声音包括两种:

  1. 地图可视化过于简单,只能看到特定区域的总数,无法查看类似点图、热力图等更高阶的可视化分析
  2. 缺少事件,没办法变换维度

基于上述两个问题,日志服务着手进行了经纬度信息相关的配套研发:

* | SELECT 
    ip_to_geo(remote_addr) AS "经纬度", 
    COUNT(1) AS c GROUP BY "经纬度" LIMIT 100

支持经纬度之后,我们就可以直接分析日志中存在的经纬度信息了,并且通过一些列如split、concat去对应需要的属性列,同时地图类事件也得到了增强,变换地区的维度得到更细粒度的分析

* | SELECT arr[2] AS "经度", arr[1] AS "纬度", c FROM(
        SELECT split(r, ',') AS arr, c FROM(
            SELECT 
              ip_to_geo(remote_addr) AS r, 
              count(1) AS c FROM log GROUP BY r
          )) LIMIT 10

3. 更加自然的POI

对于通过自然语言描述地理位置的POI信息,我们也支持去识别并进行统计和可视化

* | SELECT poi, type LIMIT 1000
  • 数据源:
poi type
杭州市临安市杭州樱久工贸有限公司 公司企业;公司企业
杭州市余杭区IADO女装 购物;服饰鞋包
杭州市建德市交投公司 公司企业;公司企业
杭州市西湖区觉客O2O家居体验店(山姆会员店) 购物;家具家居建材
杭州市临安市东方罗马 运动健身;其它运动健身
...... ......

4. 轨迹和扩展

当地理位置结合日志特有的时间属性,就可以描绘出某一类别日志的轨迹地图,并根据时间的演变关系进行动态追踪。在这次新冠疫情的场景下,我们也结合了一部分确诊病人的行动轨迹点,进行了对应的轨迹可视化,简单且清晰:

id: 2 | SELECT 
    __time__,
    id,
    location,
    type,
    text ORDER BY seq ASC limit 10000

path1

图(8).轨迹地图

写在最后

地理位置的可视化对于日志服务的可视化系统来讲是必不可少的一环,目前我们地图发展到现在还有很大的发展空间,日志服务也一直致力于提供更好的日志可视化系统服务用户,如果对日志服务可视化感兴趣的同学可以参考具体的文档指引:

联系我们

如有任何问题也可以钉钉扫码进群联系我们,欢迎拍砖:
public

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
7月前
|
监控 数据可视化 前端开发
数据可视化系列-04数据大屏基础知识
数据可视化系列-04数据大屏基础知识
|
2月前
|
存储 数据可视化 JavaScript
echart:地图的制造&数据可视化
本文档介绍了如何使用 ECharts 和 Vue.js 制作中国地图,并展示了具体的数据绑定和样式设置方法。首先通过 Axios 获取地图数据并注册到 ECharts,然后设置地图的视觉映射、数据系列等配置项,实现地图的动态显示与交互。此外,还提供了关于时间显示、边框修饰、自定义字体及图表栏的样式调整等实用技巧。
100 1
|
6月前
|
数据可视化 搜索推荐 atlas
DataV Atlas深度解析与实战应用:打造个性化地理信息可视化
阿里云DataV的Atlas功能专注于地理信息可视化,提供范围选择、边界生成和层级展示等工具,助用户轻松创建专业地图应用。通过代码示例展示了如何用Geo组件展示中国省份销售数据,强调了数据安全和性能优化的重要性。DataV Atlas简化了复杂地理信息的展示,提升了数据洞察的直观性和美感。【6月更文挑战第19天】
589 3
|
JavaScript 数据可视化 定位技术
漏刻有时数据可视化Echarts组件开发(24):本地离线的地图下钻与散点图
漏刻有时数据可视化Echarts组件开发(24):本地离线的地图下钻与散点图
132 0
漏刻有时数据可视化Echarts组件开发(24):本地离线的地图下钻与散点图
|
7月前
|
SQL 数据可视化 大数据
数据可视化系列-01大数据可视化基础
数据可视化系列-01大数据可视化基础
数据可视化系列-01大数据可视化基础
|
7月前
|
数据可视化 计算机视觉
数据可视化第二版-03部分-08章-分布
数据可视化第二版-03部分-08章-分布
数据可视化第二版-03部分-08章-分布
|
7月前
|
数据可视化
数据可视化第二版-03部分-12章-网络
数据可视化第二版-03部分-12章-网络
|
7月前
|
数据可视化 定位技术
Tableau可视化设计案例-06Tableau填充地图,多维地图,混合地图
Tableau可视化设计案例-06Tableau填充地图,多维地图,混合地图
|
数据采集 数据可视化 中间件
数据采集:亚马逊畅销书的数据可视化图表
亚马逊是全球最大的电子商务平台之一,它提供了各种类别的商品,其中包括图书。亚马逊每天都会更新它的畅销书排行榜,显示不同类别的图书的销量和评价。如果我们想要分析亚马逊畅销书的数据,我们可以使用爬虫技术来获取网页上的信息,并使用数据可视化工具来绘制图表,展示图书的特征和趋势。本文将介绍如何使用Python和Scrapy框架来编写爬虫程序,以及如何使用亿牛云爬虫代理服务来提高爬虫效果。本文还将介绍如何使用Matplotlib库来绘制亚马逊畅销书的数据可视化图表。
186 0
数据采集:亚马逊畅销书的数据可视化图表
|
数据可视化 搜索推荐 定位技术
GIS地图服务数据可视化
GIS地图服务数据可视化
238 0
下一篇
DataWorks