IoT设备数据的存储、解析和价值挖掘实践

简介: 本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。

业务背景

随着物联网技术的快速发展成熟,物联网设备从一开始的传感器类感知设备向智能化设备升级,传统企业也开始将自身设备产生的数据作为企业的重要资产进行管理,如何稳妥的存储和备份这些设备数据资产,并在关键问题出现时进行回溯,以及通过对这些设备数据的深度分析来帮助企业实现经营提效变的尤为关键。

本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。


业务问题

设备数据量大,存储成本过高

当企业的设备规模达到十万甚至百万以上时,设备实时产生的数据量会非常大,如果企业有对数据长周期存储和追溯的需求,产生的数据存储成本会非常高,同时设备数据量大了以后也会对数据读写的性能和稳定性造成影响,带来额外的资源和运维成本。

设备种类繁多,数据格式不统一

道路交通场景下的设备种类丰富多样,如一体化锥桶、一体化快速封路器、收费站主动预警灯、车载预警LED屏等,不同类型的设备可能是由不同的生产商提供或者由不同的技术团队开发的,设备上报的数据格式千差万别难以统一,存储也无法实现标准化、结构化的存储,为企业后续的数据处理、分析和治理带来了很大的困扰。

缺少数据分析,价值难以挖掘

企业将设备数据采集上来以后,缺少专业的分析工具,无法对设备数据进行多维度的聚合分析,隐藏在数据中的业务价值也就难以挖掘,导致设备数据上云反而徒增了成本,没有起到经营提效的效果,也没有真正实现企业进行设备智能化升级的业务目标。


实践步骤


数据存储/备份 - 实现设备数据冷热分离,大幅降低存储成本


阿里云物联网平台提供了设备数据存储和备份的完整解决方案,减少了数据流转和中间存储带来的额外成本开销和架构复杂度。同时基于阿里云强大成熟的云计算底座,支持可扩展的海量数据存储、超高的数据压缩比和冷热数据存储分离等能力,可极大降低数据存储和备份的成本。


操作步骤概要

1.进入物联网平台控制台,开通企业版实例,和数据服务相关的是如下4个规格。

控制台地址:https://iot.console.aliyun.com

1.png

2.png

开通完成后,点击企业版实例卡片进入实例详情页,再点击数据服务进入数据相关的功能页。

3.png2.进入数据服务-数据存储的热数据存储功能页,实时保存设备上报的时序数据。

4.png

l  创建热数据存储规则

5.pngl  配置数据源Topic(支持通配)

6.pngl  配置自定义存储脚本

7.pngl  启动热数据存储规则

8.png3.进入数据服务-数据接入功能页,开启产品级别的冷数据备份,低成本长周期保存设备数据。

9.png

l  配置产品备份(会备份产品下所有设备的数据)

10.png4.进入数据服务-数据存储的冷数据存储功能页,查看产品备份任务状态。

11.png

l  查看产品备份状态

12.png


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。

l  热数据存储:https://help.aliyun.com/document_detail/464047.html

l  冷数据备份:https://help.aliyun.com/document_detail/188662.htm

l  冷数据配置:https://help.aliyun.com/document_detail/464053.html



数据解析 - 实现不同类型设备异构数据的统一化和预处理


IoT设备数据比起IT数据有如下3个特点:1. IoT数据是时序的,通常是基于时间范围分析,而且随着时间流逝数据价值衰减更明显,特别是监控场景下,对数据处理的实时性要求高;2. 数据质量不稳定,设备上报的数据可能会受所处网络或者复杂工况影响,与典型的互联网数据对比往往需要进行数据预处理,比如插值计算和降采样等;3. 碎片化比较严重,不同类型的设备或者同一类型不同生产商的设备在数据格式的定义上都完成不一样,给后续的数据处理带来了很大的麻烦。
阿里云物联网平台针对以上IoT数据的特点,提供了组件式的数据解析服务,包括可自定义解析脚本的数据格式转换,以及窗口聚合、超时插值、相邻消息计算、函数转化等内置算子,助力客户快速完成对设备数据的预处理。


操作步骤概要

1.进入数据服务-数据解析功能页,创建数据解析任务。

13.png14.png2.点击查看进入任务编辑画布,配置数据源节点,选择设备上报数据的Topic(支持通配)。

15.png3.编写自定义解析脚本(源节点需要将数据格式选择为原始数据),对设备数据进行处理。16.png17.png除了可在自定义节点编写数据解析脚本外,也可以在数据源节点配置其他类型数据格式的转换,如下图所示。18.png

4.配置数据目标节点,将解析后的数据写入自定义存储表(解析后的数据字段需要和自定义存储表中的一致)。

19.png5.配置完成后,将数据解析任务启动并发布上线。
20.png

21.png


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。
数据解析:
https://help.aliyun.com/document_detail/307080.html


分析洞察 - 实现设备数据的实时和离线分析,深度挖掘业务价值


设备数据经过数据解析并输出到自定义存储表后,可以使用SQL开发工作台来分析这些数据,比如设备新增/活跃分析、设备工况和经营统计等,深度挖掘设备数据的业务价值。

分析洞察的结果配置为自定义服务API后,可以被客户的业务系统集成调用,客户只需专注于业务开发,无需关注设备数据的存储、备份、分析和API开放等技术细节,大大加快了业务应用的开发。

 

操作步骤概要

1.进入数据服务-分析洞察功能页,创建SQL分析任务,再点击进入SQL开发工作台。

22.png23.png2.SQL开发工作台编写SQL语句,对自定义存储表中的设备数据进行深度分析。

24.png3.将分析后的数据存入另一张自定义存储表。

25.png4.进入数据服务-数据应用功能页,创建自定义服务API,客户业务系统可通过SDK查询分析结果。

26.png27.png28.png


数据API地址:https://help.aliyun.com/document_detail/135195.html

SDK下载地址:https://help.aliyun.com/document_detail/386372.html


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。

分析洞察:https://help.aliyun.com/document_detail/325548.html

自定义服务APIhttps://help.aliyun.com/document_detail/253902.html

目录
相关文章
|
11天前
|
编解码 前端开发 UED
探索无界:前端开发中的响应式设计深度解析与实践####
【10月更文挑战第29天】 本文深入探讨了响应式设计的核心理念,即通过灵活的布局、媒体查询及弹性图片等技术手段,使网站能够在不同设备上提供一致且优质的用户体验。不同于传统摘要概述,本文将以一次具体项目实践为引,逐步剖析响应式设计的关键技术点,分享实战经验与避坑指南,旨在为前端开发者提供一套实用的响应式设计方法论。 ####
37 4
|
12天前
|
存储 分布式计算 Java
存算分离与计算向数据移动:深度解析与Java实现
【11月更文挑战第10天】随着大数据时代的到来,数据量的激增给传统的数据处理架构带来了巨大的挑战。传统的“存算一体”架构,即计算资源与存储资源紧密耦合,在处理海量数据时逐渐显露出其局限性。为了应对这些挑战,存算分离(Disaggregated Storage and Compute Architecture)和计算向数据移动(Compute Moves to Data)两种架构应运而生,成为大数据处理领域的热门技术。
34 2
|
12天前
|
安全 编译器 PHP
PHP 8新特性解析与实践应用####
————探索PHP 8的创新功能及其在现代Web开发中的实际应用
|
17天前
|
存储 JSON 运维
智能物联网平台:Azure IoT Hub在设备管理中的实践
【10月更文挑战第26天】随着物联网技术的发展,Azure IoT Hub成为企业管理和连接数百万台设备的强大平台。本文介绍Azure IoT Hub的设备管理功能,包括设备注册、设备孪生、直接方法和监控诊断,并通过示例代码展示其应用。
21 4
|
18天前
|
JavaScript API 开发工具
<大厂实战场景> ~ Flutter&鸿蒙next 解析后端返回的 HTML 数据详解
本文介绍了如何在 Flutter 中解析后端返回的 HTML 数据。首先解释了 HTML 解析的概念,然后详细介绍了使用 `http` 和 `html` 库的步骤,包括添加依赖、获取 HTML 数据、解析 HTML 内容和在 Flutter UI 中显示解析结果。通过具体的代码示例,展示了如何从 URL 获取 HTML 并提取特定信息,如链接列表。希望本文能帮助你在 Flutter 应用中更好地处理 HTML 数据。
99 1
|
3月前
|
物联网 数据管理 Apache
拥抱IoT浪潮,Apache IoTDB如何成为你的智能数据守护者?解锁物联网新纪元的数据管理秘籍!
【8月更文挑战第22天】随着物联网技术的发展,数据量激增对数据库提出新挑战。Apache IoTDB凭借其面向时间序列数据的设计,在IoT领域脱颖而出。相较于传统数据库,IoTDB采用树形数据模型高效管理实时数据,具备轻量级结构与高并发能力,并集成Hadoop/Spark支持复杂分析。在智能城市等场景下,IoTDB能处理如交通流量等数据,为决策提供支持。IoTDB还提供InfluxDB协议适配器简化迁移过程,并支持细致的权限管理确保数据安全。综上所述,IoTDB在IoT数据管理中展现出巨大潜力与竞争力。
106 1
|
10天前
|
安全 物联网 网络安全
智能设备的安全隐患:物联网(IoT)安全指南
智能设备的安全隐患:物联网(IoT)安全指南
34 12
|
8天前
|
传感器 监控 安全
物联网(IoT):定义、影响与未来
物联网(IoT):定义、影响与未来
27 3
|
16天前
|
SQL 监控 物联网
ClickHouse在物联网(IoT)中的应用:实时监控与分析
【10月更文挑战第27天】随着物联网(IoT)技术的快速发展,越来越多的设备被连接到互联网上,产生了海量的数据。这些数据不仅包含了设备的状态信息,还包括用户的使用习惯、环境参数等。如何高效地处理和分析这些数据,成为了一个重要的挑战。作为一位数据工程师,我在一个物联网项目中深入使用了ClickHouse,以下是我的经验和思考。
41 0

推荐镜像

更多