IoT设备数据的存储、解析和价值挖掘实践

简介: 本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。

业务背景

随着物联网技术的快速发展成熟,物联网设备从一开始的传感器类感知设备向智能化设备升级,传统企业也开始将自身设备产生的数据作为企业的重要资产进行管理,如何稳妥的存储和备份这些设备数据资产,并在关键问题出现时进行回溯,以及通过对这些设备数据的深度分析来帮助企业实现经营提效变的尤为关键。

本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。


业务问题

设备数据量大,存储成本过高

当企业的设备规模达到十万甚至百万以上时,设备实时产生的数据量会非常大,如果企业有对数据长周期存储和追溯的需求,产生的数据存储成本会非常高,同时设备数据量大了以后也会对数据读写的性能和稳定性造成影响,带来额外的资源和运维成本。

设备种类繁多,数据格式不统一

道路交通场景下的设备种类丰富多样,如一体化锥桶、一体化快速封路器、收费站主动预警灯、车载预警LED屏等,不同类型的设备可能是由不同的生产商提供或者由不同的技术团队开发的,设备上报的数据格式千差万别难以统一,存储也无法实现标准化、结构化的存储,为企业后续的数据处理、分析和治理带来了很大的困扰。

缺少数据分析,价值难以挖掘

企业将设备数据采集上来以后,缺少专业的分析工具,无法对设备数据进行多维度的聚合分析,隐藏在数据中的业务价值也就难以挖掘,导致设备数据上云反而徒增了成本,没有起到经营提效的效果,也没有真正实现企业进行设备智能化升级的业务目标。


实践步骤


数据存储/备份 - 实现设备数据冷热分离,大幅降低存储成本


阿里云物联网平台提供了设备数据存储和备份的完整解决方案,减少了数据流转和中间存储带来的额外成本开销和架构复杂度。同时基于阿里云强大成熟的云计算底座,支持可扩展的海量数据存储、超高的数据压缩比和冷热数据存储分离等能力,可极大降低数据存储和备份的成本。


操作步骤概要

1.进入物联网平台控制台,开通企业版实例,和数据服务相关的是如下4个规格。

控制台地址:https://iot.console.aliyun.com

1.png

2.png

开通完成后,点击企业版实例卡片进入实例详情页,再点击数据服务进入数据相关的功能页。

3.png2.进入数据服务-数据存储的热数据存储功能页,实时保存设备上报的时序数据。

4.png

l  创建热数据存储规则

5.pngl  配置数据源Topic(支持通配)

6.pngl  配置自定义存储脚本

7.pngl  启动热数据存储规则

8.png3.进入数据服务-数据接入功能页,开启产品级别的冷数据备份,低成本长周期保存设备数据。

9.png

l  配置产品备份(会备份产品下所有设备的数据)

10.png4.进入数据服务-数据存储的冷数据存储功能页,查看产品备份任务状态。

11.png

l  查看产品备份状态

12.png


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。

l  热数据存储:https://help.aliyun.com/document_detail/464047.html

l  冷数据备份:https://help.aliyun.com/document_detail/188662.htm

l  冷数据配置:https://help.aliyun.com/document_detail/464053.html



数据解析 - 实现不同类型设备异构数据的统一化和预处理


IoT设备数据比起IT数据有如下3个特点:1. IoT数据是时序的,通常是基于时间范围分析,而且随着时间流逝数据价值衰减更明显,特别是监控场景下,对数据处理的实时性要求高;2. 数据质量不稳定,设备上报的数据可能会受所处网络或者复杂工况影响,与典型的互联网数据对比往往需要进行数据预处理,比如插值计算和降采样等;3. 碎片化比较严重,不同类型的设备或者同一类型不同生产商的设备在数据格式的定义上都完成不一样,给后续的数据处理带来了很大的麻烦。
阿里云物联网平台针对以上IoT数据的特点,提供了组件式的数据解析服务,包括可自定义解析脚本的数据格式转换,以及窗口聚合、超时插值、相邻消息计算、函数转化等内置算子,助力客户快速完成对设备数据的预处理。


操作步骤概要

1.进入数据服务-数据解析功能页,创建数据解析任务。

13.png14.png2.点击查看进入任务编辑画布,配置数据源节点,选择设备上报数据的Topic(支持通配)。

15.png3.编写自定义解析脚本(源节点需要将数据格式选择为原始数据),对设备数据进行处理。16.png17.png除了可在自定义节点编写数据解析脚本外,也可以在数据源节点配置其他类型数据格式的转换,如下图所示。18.png

4.配置数据目标节点,将解析后的数据写入自定义存储表(解析后的数据字段需要和自定义存储表中的一致)。

19.png5.配置完成后,将数据解析任务启动并发布上线。
20.png

21.png


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。
数据解析:
https://help.aliyun.com/document_detail/307080.html


分析洞察 - 实现设备数据的实时和离线分析,深度挖掘业务价值


设备数据经过数据解析并输出到自定义存储表后,可以使用SQL开发工作台来分析这些数据,比如设备新增/活跃分析、设备工况和经营统计等,深度挖掘设备数据的业务价值。

分析洞察的结果配置为自定义服务API后,可以被客户的业务系统集成调用,客户只需专注于业务开发,无需关注设备数据的存储、备份、分析和API开放等技术细节,大大加快了业务应用的开发。

 

操作步骤概要

1.进入数据服务-分析洞察功能页,创建SQL分析任务,再点击进入SQL开发工作台。

22.png23.png2.SQL开发工作台编写SQL语句,对自定义存储表中的设备数据进行深度分析。

24.png3.将分析后的数据存入另一张自定义存储表。

25.png4.进入数据服务-数据应用功能页,创建自定义服务API,客户业务系统可通过SDK查询分析结果。

26.png27.png28.png


数据API地址:https://help.aliyun.com/document_detail/135195.html

SDK下载地址:https://help.aliyun.com/document_detail/386372.html


相关产品文档

如您想要了解更细节的产品功能使用指南,可以访问物联网平台的官网产品文档。

分析洞察:https://help.aliyun.com/document_detail/325548.html

自定义服务APIhttps://help.aliyun.com/document_detail/253902.html

目录
相关文章
|
1月前
|
数据采集 自然语言处理 搜索推荐
基于qwen2.5的长文本解析、数据预测与趋势分析、代码生成能力赋能esg报告分析
Qwen2.5是一款强大的生成式预训练语言模型,擅长自然语言理解和生成,支持长文本解析、数据预测、代码生成等复杂任务。Qwen-Long作为其变体,专为长上下文场景优化,适用于大型文档处理、知识图谱构建等。Qwen2.5在ESG报告解析、多Agent协作、数学模型生成等方面表现出色,提供灵活且高效的解决方案。
158 49
|
23天前
|
XML JSON JavaScript
HttpGet 请求的响应处理:获取和解析数据
HttpGet 请求的响应处理:获取和解析数据
|
29天前
|
网络协议 安全 文件存储
动态DNS(DDNS)技术在当前网络环境中日益重要,它允许使用动态IP地址的设备通过固定域名访问
动态DNS(DDNS)技术在当前网络环境中日益重要,它允许使用动态IP地址的设备通过固定域名访问,即使IP地址变化,也能通过DDNS服务保持连接。适用于家庭网络远程访问设备及企业临时或移动设备管理,提供便捷性和灵活性。示例代码展示了如何使用Python实现基本的DDNS更新。尽管存在服务可靠性和安全性挑战,DDNS仍极大提升了网络资源的利用效率。
53 6
|
1月前
|
数据采集 存储 自然语言处理
基于Qwen2.5的大规模ESG数据解析与趋势分析多Agent系统设计
2022年中国上市企业ESG报告数据集,涵盖制造、能源、金融、科技等行业,通过Qwen2.5大模型实现报告自动收集、解析、清洗及可视化生成,支持单/多Agent场景,大幅提升ESG数据分析效率与自动化水平。
105 0
|
4月前
|
物联网 数据管理 Apache
拥抱IoT浪潮,Apache IoTDB如何成为你的智能数据守护者?解锁物联网新纪元的数据管理秘籍!
【8月更文挑战第22天】随着物联网技术的发展,数据量激增对数据库提出新挑战。Apache IoTDB凭借其面向时间序列数据的设计,在IoT领域脱颖而出。相较于传统数据库,IoTDB采用树形数据模型高效管理实时数据,具备轻量级结构与高并发能力,并集成Hadoop/Spark支持复杂分析。在智能城市等场景下,IoTDB能处理如交通流量等数据,为决策提供支持。IoTDB还提供InfluxDB协议适配器简化迁移过程,并支持细致的权限管理确保数据安全。综上所述,IoTDB在IoT数据管理中展现出巨大潜力与竞争力。
122 1
|
25天前
|
传感器 存储 物联网
在物联网(IoT)快速发展的今天,C语言作为物联网开发中的关键工具,以其高效、灵活、可移植的特点
在物联网(IoT)快速发展的今天,C语言作为物联网开发中的关键工具,以其高效、灵活、可移植的特点,广泛应用于嵌入式系统开发、通信协议实现及后端服务构建等领域,成为推动物联网技术进步的重要力量。
32 1
|
1月前
|
存储 安全 物联网
C# 在物联网 (IoT) 应用中的应用
本文介绍了C#在物联网(IoT)应用中的应用,涵盖基础概念、优势、常见问题及其解决方法。重点讨论了网络通信、数据处理和安全问题,并提供了相应的代码示例,旨在帮助开发者更好地利用C#进行IoT开发。
53 3
|
1月前
|
安全 物联网 网络安全
智能设备的安全隐患:物联网(IoT)安全指南
智能设备的安全隐患:物联网(IoT)安全指南
88 12
|
1月前
|
传感器 监控 安全
物联网(IoT):定义、影响与未来
物联网(IoT):定义、影响与未来
94 3
|
1月前
|
存储 JSON 运维
智能物联网平台:Azure IoT Hub在设备管理中的实践
【10月更文挑战第26天】随着物联网技术的发展,Azure IoT Hub成为企业管理和连接数百万台设备的强大平台。本文介绍Azure IoT Hub的设备管理功能,包括设备注册、设备孪生、直接方法和监控诊断,并通过示例代码展示其应用。
68 4

热门文章

最新文章

推荐镜像

更多