IoT设备数据的存储、解析和价值挖掘实践

简介: 本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。

业务背景

随着物联网技术的快速发展成熟,物联网设备从一开始的传感器类感知设备向智能化设备升级,传统企业也开始将自身设备产生的数据作为企业的重要资产进行管理,如何稳妥的存储和备份这些设备数据资产,并在关键问题出现时进行回溯,以及通过对这些设备数据的深度分析来帮助企业实现经营提效变的尤为关键。

本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。


业务问题

设备数据量大,存储成本过高

当企业的设备规模达到十万甚至百万以上时,设备实时产生的数据量会非常大,如果企业有对数据长周期存储和追溯的需求,产生的数据存储成本会非常高,同时设备数据量大了以后也会对数据读写的性能和稳定性造成影响,带来额外的资源和运维成本。

设备种类繁多,数据格式不统一

道路交通场景下的设备种类丰富多样,如一体化锥桶、一体化快速封路器、收费站主动预警灯、车载预警LED屏等,不同类型的设备可能是由不同的生产商提供或者由不同的技术团队开发的,设备上报的数据格式千差万别难以统一,存储也无法实现标准化、结构化的存储,为企业后续的数据处理、分析和治理带来了很大的困扰。

缺少数据分析,价值难以挖掘

企业将设备数据采集上来以后,缺少专业的分析工具,无法对设备数据进行多维度的聚合分析,隐藏在数据中的业务价值也就难以挖掘,导致设备数据上云反而徒增了成本,没有起到经营提效的效果,也没有真正实现企业进行设备智能化升级的业务目标。


实践步骤


数据存储/备份 - 实现设备数据冷热分离,大幅降低存储成本


阿里云物联网平台提供了设备数据存储和备份的完整解决方案,减少了数据流转和中间存储带来的额外成本开销和架构复杂度。同时基于阿里云强大成熟的云计算底座,支持可扩展的海量数据存储、超高的数据压缩比和冷热数据存储分离等能力,可极大降低数据存储和备份的成本。


操作步骤概要

1.进入物联网平台控制台,开通企业版实例,和数据服务相关的是如下4个规格。

控制台地址:https://iot.console.aliyun.com

1.png

2.png

开通完成后,点击企业版实例卡片进入实例详情页,再点击数据服务进入数据相关的功能页。

3.png2.进入数据服务-数据存储的热数据存储功能页,实时保存设备上报的时序数据。

4.png

l  创建热数据存储规则

5.pngl  配置数据源Topic(支持通配)

6.pngl  配置自定义存储脚本

7.pngl  启动热数据存储规则

8.png3.进入数据服务-数据接入功能页,开启产品级别的冷数据备份,低成本长周期保存设备数据。

9.png

l  配置产品备份(会备份产品下所有设备的数据)

10.png4.进入数据服务-数据存储的冷数据存储功能页,查看产品备份任务状态。

11.png

l  查看产品备份状态

12.png


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。

l  热数据存储:https://help.aliyun.com/document_detail/464047.html

l  冷数据备份:https://help.aliyun.com/document_detail/188662.htm

l  冷数据配置:https://help.aliyun.com/document_detail/464053.html



数据解析 - 实现不同类型设备异构数据的统一化和预处理


IoT设备数据比起IT数据有如下3个特点:1. IoT数据是时序的,通常是基于时间范围分析,而且随着时间流逝数据价值衰减更明显,特别是监控场景下,对数据处理的实时性要求高;2. 数据质量不稳定,设备上报的数据可能会受所处网络或者复杂工况影响,与典型的互联网数据对比往往需要进行数据预处理,比如插值计算和降采样等;3. 碎片化比较严重,不同类型的设备或者同一类型不同生产商的设备在数据格式的定义上都完成不一样,给后续的数据处理带来了很大的麻烦。
阿里云物联网平台针对以上IoT数据的特点,提供了组件式的数据解析服务,包括可自定义解析脚本的数据格式转换,以及窗口聚合、超时插值、相邻消息计算、函数转化等内置算子,助力客户快速完成对设备数据的预处理。


操作步骤概要

1.进入数据服务-数据解析功能页,创建数据解析任务。

13.png14.png2.点击查看进入任务编辑画布,配置数据源节点,选择设备上报数据的Topic(支持通配)。

15.png3.编写自定义解析脚本(源节点需要将数据格式选择为原始数据),对设备数据进行处理。16.png17.png除了可在自定义节点编写数据解析脚本外,也可以在数据源节点配置其他类型数据格式的转换,如下图所示。18.png

4.配置数据目标节点,将解析后的数据写入自定义存储表(解析后的数据字段需要和自定义存储表中的一致)。

19.png5.配置完成后,将数据解析任务启动并发布上线。
20.png

21.png


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。
数据解析:
https://help.aliyun.com/document_detail/307080.html


分析洞察 - 实现设备数据的实时和离线分析,深度挖掘业务价值


设备数据经过数据解析并输出到自定义存储表后,可以使用SQL开发工作台来分析这些数据,比如设备新增/活跃分析、设备工况和经营统计等,深度挖掘设备数据的业务价值。

分析洞察的结果配置为自定义服务API后,可以被客户的业务系统集成调用,客户只需专注于业务开发,无需关注设备数据的存储、备份、分析和API开放等技术细节,大大加快了业务应用的开发。

 

操作步骤概要

1.进入数据服务-分析洞察功能页,创建SQL分析任务,再点击进入SQL开发工作台。

22.png23.png2.SQL开发工作台编写SQL语句,对自定义存储表中的设备数据进行深度分析。

24.png3.将分析后的数据存入另一张自定义存储表。

25.png4.进入数据服务-数据应用功能页,创建自定义服务API,客户业务系统可通过SDK查询分析结果。

26.png27.png28.png


数据API地址:https://help.aliyun.com/document_detail/135195.html

SDK下载地址:https://help.aliyun.com/document_detail/386372.html


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。

分析洞察:https://help.aliyun.com/document_detail/325548.html

自定义服务APIhttps://help.aliyun.com/document_detail/253902.html

目录
相关文章
|
12天前
|
编解码 前端开发 UED
探索无界:前端开发中的响应式设计深度解析与实践####
【10月更文挑战第29天】 本文深入探讨了响应式设计的核心理念,即通过灵活的布局、媒体查询及弹性图片等技术手段,使网站能够在不同设备上提供一致且优质的用户体验。不同于传统摘要概述,本文将以一次具体项目实践为引,逐步剖析响应式设计的关键技术点,分享实战经验与避坑指南,旨在为前端开发者提供一套实用的响应式设计方法论。 ####
38 4
|
14天前
|
安全 编译器 PHP
PHP 8新特性解析与实践应用####
————探索PHP 8的创新功能及其在现代Web开发中的实际应用
|
22天前
|
存储 安全 Java
系统安全架构的深度解析与实践:Java代码实现
【11月更文挑战第1天】系统安全架构是保护信息系统免受各种威胁和攻击的关键。作为系统架构师,设计一套完善的系统安全架构不仅需要对各种安全威胁有深入理解,还需要熟练掌握各种安全技术和工具。
64 10
|
19天前
|
存储 JSON 运维
智能物联网平台:Azure IoT Hub在设备管理中的实践
【10月更文挑战第26天】随着物联网技术的发展,Azure IoT Hub成为企业管理和连接数百万台设备的强大平台。本文介绍Azure IoT Hub的设备管理功能,包括设备注册、设备孪生、直接方法和监控诊断,并通过示例代码展示其应用。
22 4
|
22天前
|
存储 弹性计算 NoSQL
"从入门到实践,全方位解析云服务器ECS的秘密——手把手教你轻松驾驭阿里云的强大计算力!"
【10月更文挑战第23天】云服务器ECS(Elastic Compute Service)是阿里云提供的基础云计算服务,允许用户在云端租用和管理虚拟服务器。ECS具有弹性伸缩、按需付费、简单易用等特点,适用于网站托管、数据库部署、大数据分析等多种场景。本文介绍ECS的基本概念、使用场景及快速上手指南。
65 3
|
24天前
|
PHP 数据安全/隐私保护 开发者
PHP 7新特性解析与实践
【10月更文挑战第20天】本文将深入浅出地介绍PHP 7的新特性,包括性能提升、语法改进等方面。我们将通过实际代码示例,展示如何利用这些新特性优化现有项目,提高开发效率。无论你是PHP新手还是资深开发者,都能从中获得启发和帮助。
|
25天前
|
人工智能 资源调度 数据可视化
【AI应用落地实战】智能文档处理本地部署——可视化文档解析前端TextIn ParseX实践
2024长沙·中国1024程序员节以“智能应用新生态”为主题,吸引了众多技术大咖。合合信息展示了“智能文档处理百宝箱”的三大工具:可视化文档解析前端TextIn ParseX、向量化acge-embedding模型和文档解析测评工具markdown_tester,助力智能文档处理与知识管理。
|
3月前
|
物联网 数据管理 Apache
拥抱IoT浪潮,Apache IoTDB如何成为你的智能数据守护者?解锁物联网新纪元的数据管理秘籍!
【8月更文挑战第22天】随着物联网技术的发展,数据量激增对数据库提出新挑战。Apache IoTDB凭借其面向时间序列数据的设计,在IoT领域脱颖而出。相较于传统数据库,IoTDB采用树形数据模型高效管理实时数据,具备轻量级结构与高并发能力,并集成Hadoop/Spark支持复杂分析。在智能城市等场景下,IoTDB能处理如交通流量等数据,为决策提供支持。IoTDB还提供InfluxDB协议适配器简化迁移过程,并支持细致的权限管理确保数据安全。综上所述,IoTDB在IoT数据管理中展现出巨大潜力与竞争力。
106 1
|
12天前
|
安全 物联网 网络安全
智能设备的安全隐患:物联网(IoT)安全指南
智能设备的安全隐患:物联网(IoT)安全指南
37 12

热门文章

最新文章

推荐镜像

更多