阿里云物联网数据的统计分析(二)|学习笔记

简介: 快速学习阿里云物联网数据的统计分析(二)

开发者学堂课程【物联网平台实操入门阿里云物联网数据的统计分析(二)】学习笔记与课程紧密联系,让用户快速学习知识

课程地址https://developer.aliyun.com/learning/course/1031/detail/15128


阿里云物联网数据的统计分析(二)

二、平台介绍

接下来进入本节课的重点介绍物联网数据分析平台。图中的最左边是设备,平台的第一层是连接,连接上去有消息流转和设备管理以及运维。接下来介绍的是数据分析主要的模块有设备备份、指标管理、Topic资产管理、时序数据分析(还在建设中)以及数据API,最右边是企业的系统。

物联网的本质是将设备数字化,数字化就是设备的属性或者是事件上报之后有两个地方使用,一个是通过规则引擎流转到企业系统进行TB业务系统的开发。另外流转之后也可以存进数仓进行大数据分析,大数据分析目前平台是做了一层底座,即对大数据有建设成本可以直接使用平台来进行大数据的分析。

接下俩介绍物联网分析平台的概述,架构图不再详细展开,着重讲解几个点,第一个是依托于阿里云的飞天的系统的分布式存储系统,保障了数据的存储是一个安全性和丢失率是极低的,另外价格是非常低的,如果感兴趣可以去官网看。

另外整个架构是存储和计算分离的,并且介绍了是分布式存储的。另外还支持多模式的计算引擎。

底下平台集层是Maxcomputer的批量计算引擎,同时对一些常见的指标使用flink进行实时数据的清洗,主要是通过基础API的方式给用户使用,没有用产品化的方式进行计算主要是考虑到流计算的成本太高,,所以用一方的方式清洗,未来随着存储也可以开放。下面还有交互式查询依托于hologres交互式引擎,同时也有机器学习的模块。在数据应用方面主要是两块,第一块是可视化的能力,同时还有数据API的提供。

操作流程可以看到最左边的是数据源,数据源分成物模型的数据和设备数据,同时业务数据也在开发中。

第二项也在开发就是数据管道,接下来是数据存储,这些是物联网新起的链流,接着到数据分析和机器学习两个模块,处理完之后可以以数据资产的形式整合起来提供给数据报表和数据API去使用。这样整个物联网的数据是一个流逝的方式,大的平台是ppl提供的处理过程。

image.png

在数据源可以看到点击备份可以备份整个物联网及实例的数据,备份默认备份标准物模型的数据,同时还提供解析管道、解析任务支持用户自定义解析事件,因为事件是嵌套的所以无法跟表对齐需要有一个解析层,同时也支持用户自定义的数据的解析。备份可以支持整个实例的备份也可以单个产品备份。

数据管道是很典型的的编排方式来处理,目前提供了一个数据源定义,源定义可以选择实例、产品、设备,设备只能是针对全部设备,另外可以选择topic类型支持事件和自定义的topic。表达式和过滤器可以通过一个表达式进行数据的转换比如四则运算常用的函数进行数据的处理,另外也支持数据的过滤,物联网数据很多时候是不标准的,需要提前进行过滤达到比较好质量的数据进行后续的加工和处理。目标源会流回到具体的产品上,后续会进行具体的展示。

image.png

下一个步骤是指标定义,指标定义可以对标到阿里的OneModle的指标设计的过程,包括数据域即所谓的指标域,也有业务过程,这两层可以对应到原生指标,原生指标经过衍生会增加一个统计周期和修饰词,修饰词有时间修饰词和业务修饰词,组合之后是派生指标。很典型的指标定义过程用系统的方式最佳实践提供出来给用户使用,刚才所讲的概念在词库管理里面会有原子词的定义,原子词包括度量、数据类型和业务口径等,内置了很多时间修饰词也开放工单方式增加相关的时间修饰词。

image.png

在指标管理罗列出了相应的指标比如故障周期是原始的指标同时也像设备全局的效能tpp属于衍生指标,右侧是任务运维,指标是t+1调度的,每天调度时会生成一个周期实例,并且相关的调度的过程可以通过日志来查看,同时如果有异常或者逻辑发生改变之后可以进行存跑。

并且也支持回刷实例,回刷实例是支持具体的指标的回刷的周期可以进行手动的数据的回刷。指标生产完之后有两个出口第一个是报表系统,报表系统可以看到右边的截图就是报表,报表包括指标卡、主副指标卡、折线图、柱状图、双轴图、条形图、散点图、仪表盘、表格。当然对于专业的BI系统可能不是很全,这里相当于将物联网数据的集成、清洗、加工以及展示进行完整的闭环,如果有更高要求可以通过数据API进行数据的拉取。

image.png

在自己的大屏或者报表获取定时化的展示,数据API也分为两部分一部分是基础服务API,这是之前介绍的会将一些通用的指标进行清洗并且以一方的指标提供在基础服务API上露出,目前有2、3组的预设的指标API,可以看到任意一天的联网分布、历史品类分布、任意一天的品类分布排行等等都是针对设备域的分析沉淀下来的指标,这样就免用户数据清洗或开发的过程。在自定义数据API里面可以根据用户的要求自己定义API的形式,定义过程之后会着重介绍,能力主要包括API的测试。

在开放之前要进行测试,可以在工作台直接进行测试,测试的时候有日志的返回,返回的数据结构的展示。同时调用示例也就是代码,展示的是Java代码调用的的示例代码,用户可以直接将相关的代码demo代码拷出去就可以调用API。另外有相关的入参和出参的说明,最基础的信息会在最顶部展示。

image.png

另外对新建的产品提供了原始数据的接口,这样用户可以将上报的数据通过批量的分页的方式拉取,这就是自定义API的过程。定义完之后可以用相关的SDK方式调用。

image.png

相关实践学习
阿里云AIoT物联网开发实战
本课程将由物联网专家带你熟悉阿里云AIoT物联网领域全套云产品,7天轻松搭建基于Arduino的端到端物联网场景应用。 开始学习前,请先开通下方两个云产品,让学习更流畅: IoT物联网平台:https://iot.console.aliyun.com/ LinkWAN物联网络管理平台:https://linkwan.console.aliyun.com/service-open
相关文章
|
存储 安全 API
利用对象存储(OSS)实现内容分发加速 :高效可靠的解决跨境下载延迟问题
利用对象存储(OSS)实现内容分发加速 :高效可靠的解决跨境下载延迟问题
774 2
|
8月前
|
安全 数据可视化 数据管理
企业访客预约怎么做?推荐一套简单高效的二维码预约方案
对于不想复杂部署、不具备技术团队、但又希望提升访客管理效率的企业来说,草料二维码提供的访客预约方案是当前最具性价比的选择之一。它不是替代庞大系统的全能工具,但对于日常管理的轻量化、效率化改造,已经足够强大。
企业访客预约怎么做?推荐一套简单高效的二维码预约方案
|
存储 机器学习/深度学习 人工智能
深入浅出 AI 智能体(AI Agent)|技术干货
随着人工智能技术的发展,智能体(AI Agents)逐渐成为人与大模型交互的主要方式。智能体能执行任务、解决问题,并提供个性化服务。其关键组成部分包括规划、记忆和工具使用,使交互更加高效、自然。智能体的应用涵盖专业领域问答、资讯整理、角色扮演等场景,极大地提升了用户体验与工作效率。借助智能体开发平台,用户可以轻松打造定制化AI应用,推动AI技术在各领域的广泛应用与深度融合。
30669 1
|
数据采集 存储 运维
物联网设备的数据处理与分析技术探讨
【7月更文挑战第2天】探索物联网(IoT)数据处理技术,涵盖数据采集(传感器、无线通信)、存储(分布式系统、NoSQL)、处理(清洗、压缩、转换)和分析(描述性、聚类、分类、异常检测)。未来趋势涉及AI集成、边缘计算、多模态处理和系统自主化。随着技术演进,期待更智能、高效的解决方案。
|
域名解析 JSON 监控
Mqtt学习笔记--接入阿里云(2)
Mqtt学习笔记--接入阿里云(2)
444 1
|
数据可视化 安全 数据挖掘
开源数据可视化分析工具DataEase本地部署并实现远程访问
开源数据可视化分析工具DataEase本地部署并实现远程访问
|
流计算
Flink CDC 中,Sink: clean_commits 步骤的并行度
【1月更文挑战第24天】【1月更文挑战第118篇】Flink CDC 中,Sink: clean_commits 步骤的并行度
192 1
|
JSON 物联网 开发工具
设备接入组件功能介绍
设备接入组件功能介绍
651 0

相关产品

  • 物联网平台