IoT设备数据的存储、解析和价值挖掘实践

简介: 本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。


业务背景

随着物联网技术的快速发展成熟,物联网设备从一开始的传感器类感知设备向智能化设备升级,传统企业也开始将自身设备产生的数据作为企业的重要资产进行管理,如何稳妥的存储和备份这些设备数据资产,并在关键问题出现时进行回溯,以及通过对这些设备数据的深度分析来帮助企业实现经营提效变的尤为关键。

本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。


业务问题

设备数据量大,存储成本过高

当企业的设备规模达到十万甚至百万以上时,设备实时产生的数据量会非常大,如果企业有对数据长周期存储和追溯的需求,产生的数据存储成本会非常高,同时设备数据量大了以后也会对数据读写的性能和稳定性造成影响,带来额外的资源和运维成本。

设备种类繁多,数据格式不统一

道路交通场景下的设备种类丰富多样,如一体化锥桶、一体化快速封路器、收费站主动预警灯、车载预警LED屏等,不同类型的设备可能是由不同的生产商提供或者由不同的技术团队开发的,设备上报的数据格式千差万别难以统一,存储也无法实现标准化、结构化的存储,为企业后续的数据处理、分析和治理带来了很大的困扰。

缺少数据分析,价值难以挖掘

企业将设备数据采集上来以后,缺少专业的分析工具,无法对设备数据进行多维度的聚合分析,隐藏在数据中的业务价值也就难以挖掘,导致设备数据上云反而徒增了成本,没有起到经营提效的效果,也没有真正实现企业进行设备智能化升级的业务目标。


最佳实践


数据存储/备份 - 实现设备数据冷热分离,大幅降低存储成本


阿里云物联网平台提供了设备数据存储和备份的完整解决方案,减少了数据流转和中间存储带来的额外成本开销和架构复杂度。同时基于阿里云强大成熟的云计算底座,支持可扩展的海量数据存储、超高的数据压缩比和冷热数据存储分离等能力,可极大降低数据存储和备份的成本。


操作步骤概要

1.进入物联网平台控制台,开通企业版实例,和数据服务相关的是如下4个规格。

控制台地址:https://iot.console.aliyun.com

1.png

2.png

开通完成后,点击企业版实例卡片进入实例详情页,再点击数据服务进入数据相关的功能页。

3.png2.进入数据服务-数据存储的热数据存储功能页,实时保存设备上报的时序数据。

4.png

l  创建热数据存储规则

5.pngl  配置数据源Topic(支持通配)

6.pngl  配置自定义存储脚本

7.pngl  启动热数据存储规则

8.png3.进入数据服务-数据接入功能页,开启产品级别的冷数据备份,低成本长周期保存设备数据。

9.png

l  配置产品备份(会备份产品下所有设备的数据)

10.png4.进入数据服务-数据存储的冷数据存储功能页,查看产品备份任务状态。

11.png

l  查看产品备份状态

12.png


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。

l  热数据存储:https://help.aliyun.com/document_detail/464047.html

l  冷数据备份:https://help.aliyun.com/document_detail/188662.htm

l  冷数据配置:https://help.aliyun.com/document_detail/464053.html


数据解析 - 实现不同类型设备异构数据的统一化和预处理


IoT设备数据比起IT数据有如下三个特点:第一个特点是IoT数据是时序的,通常是基于时间范围分析,而且随着时间流逝数据价值衰减更明显,特别是监控场景下,对数据处理的实时性要求高;第二个特点是数据质量不稳定,设备上报的数据可能会受所处网络或者复杂工况影响,与典型的互联网数据对比往往需要进行数据预处理,比如插值计算和降采样等;第三个特点是碎片化比较严重,不同类型的设备或者同一类型不同生产商的设备在数据格式的定义上都完成不一样,给后续的数据处理带来了很大的麻烦。
阿里云物联网平台针对以上IoT数据的特点,提供了组件式的数据解析服务,包括可自定义解析脚本的数据格式转换,以及窗口聚合、超时插值、相邻消息计算、函数转化等内置算子,助力客户快速完成对设备数据的预处理。


操作步骤概要

1.进入数据服务-数据解析功能页,创建数据解析任务。

13.png14.png2.点击查看进入任务编辑画布,配置数据源节点,选择设备上报数据的Topic(支持通配)。

15.png3.编写自定义解析脚本(源节点需要将数据格式选择为原始数据),对设备数据进行处理。16.png17.png除了可在自定义节点编写数据解析脚本外,也可以在数据源节点配置其他类型数据格式的转换,如下图所示。18.png

4.配置数据目标节点,将解析后的数据写入自定义存储表(解析后的数据字段需要和自定义存储表中的一致)。

19.png5.配置完成后,将数据解析任务启动并发布上线。
20.png

21.png


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。
数据解析:
https://help.aliyun.com/document_detail/307080.html


分析洞察 - 实现设备数据的实时和离线分析,深度挖掘业务价值


设备数据经过数据解析并输出到自定义存储表后,可以使用SQL开发工作台来分析这些数据,比如设备新增/活跃分析、设备工况和经营统计等,深度挖掘设备数据的业务价值。

分析洞察的结果配置为自定义服务API后,可以被客户的业务系统集成调用,客户只需专注于业务开发,无需关注设备数据的存储、备份、分析和API开放等技术细节,大大加快了业务应用的开发。

 

操作步骤概要

1.进入数据服务-分析洞察功能页,创建SQL分析任务,再点击进入SQL开发工作台。

22.png23.png2.SQL开发工作台编写SQL语句,对自定义存储表中的设备数据进行深度分析。

24.png3.将分析后的数据存入另一张自定义存储表。
25.png4.进入数据服务-数据应用功能页,创建自定义服务API,客户业务系统可通过SDK查询分析结果。

26.png27.png28.png


数据API地址:https://help.aliyun.com/document_detail/135195.html

SDK下载地址:https://help.aliyun.com/document_detail/386372.html


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。

分析洞察:https://help.aliyun.com/document_detail/325548.html

自定义服务APIhttps://help.aliyun.com/document_detail/253902.html

目录
相关文章
|
数据采集 存储 监控
大数据的数据来源 - 数据采集的方式(数据接入的方式)
大数据处理关键技术一般包括:大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘、大数据展现和应用(大数据检索、大数据可视化、大数据应用、大数据安全等)。下面主要介绍下大数据采集
4415 0
|
4月前
|
数据采集 存储 运维
物联网设备的数据处理与分析技术探讨
【7月更文挑战第2天】探索物联网(IoT)数据处理技术,涵盖数据采集(传感器、无线通信)、存储(分布式系统、NoSQL)、处理(清洗、压缩、转换)和分析(描述性、聚类、分类、异常检测)。未来趋势涉及AI集成、边缘计算、多模态处理和系统自主化。随着技术演进,期待更智能、高效的解决方案。
|
6月前
|
存储 人工智能 文件存储
阿里云吴结生:面向大规模数据智能的阿里云存储创新
近年来,越来越多人意识到,我们正处在一个数据爆炸式增长的时代。IDC 预测 2027 年全球产生的数据量将达到 291 ZB,与 2022 年相比,增长了近 2 倍。其中 75% 的数据来自企业,每一个现代化的企业都是一家数据公司。
882 10
阿里云吴结生:面向大规模数据智能的阿里云存储创新
|
存储 SQL 数据采集
IoT设备数据的存储、解析和价值挖掘实践
本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。
23118 1
IoT设备数据的存储、解析和价值挖掘实践
|
存储 运维 DataWorks
如何解决IoT数据入仓的客户实践
随着物联网应用场景的深入,企业开始进入挖掘设备上传的数据,用于客户端应用扩展后服务营收,同时也用于数字化运营、风控,帮助企业高效治理,和产品演进决策依据。 但是物联网数据上云后涉及到的大数据链路开发治理,以及产生的成本都是企业需要面临的挑战,本文以一个真实客户案例整理出的实践案例,介绍如何基于阿里云物联网平台数据服务产品能力搭建企业物联网大数据应用架构。
|
存储 SQL 运维
IoT设备数据业务价值洞察实践
本实践以一个摩托车数字化场景下设备运营分析的真实需求为背景,来介绍如何使用物联网平台的数据服务完成对设备数据进行深度业务分析,带来更多用户的摩托车增值价值。
IoT设备数据业务价值洞察实践
|
存储 SQL 人工智能
如何解决IoT数据的存储计算的实践案例
物联网数据往往来自于智能设备或者传感器设备,这些设备只要运行中,将持续不断产生设备数据。同时这些数据的使用价值根据场景千差万别,其中时效性对不同场景有很大影响,如何解决好存储和计算是物联网数字化场景的关键问题。
|
存储 人工智能 监控
IoT设备物模型接入价值与实践(一)|学习笔记
快速学习IoT设备物模型接入价值与实践(一)
IoT设备物模型接入价值与实践(一)|学习笔记
|
物联网 Java 开发工具
IoT设备物模型接入价值与实践(二)|学习笔记
快速学习IoT设备物模型接入价值与实践(二)
IoT设备物模型接入价值与实践(二)|学习笔记
|
存储 数据采集 SQL
迈科清洗(MEIKO)如何借助IOT手段解决企业设备运维问题
迈科清洗专注于专业的餐具清洗消毒设备和技术应用,物联网平台为其提供数据存储,进行长时间存放和业务分析。
287 0
迈科清洗(MEIKO)如何借助IOT手段解决企业设备运维问题

热门文章

最新文章