TDengine 用户案例合集 | 智能环保项目的时序数据处理难点与优化实践

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 Tair(兼容Redis),内存型 2GB
简介: 本篇文章汇总了三个典型的智能环保项目的数据架构升级实践,给有需要的企业参考。

智能环保系统通常涉及大量的传感器和监测设备,以收集环境数据并对其进行分析和处理,这些数据通常是时序数据,即在一段时间内按时间顺序生成的数据,规模庞大且要求快速准确地进行分析和处理。也因此时序数据处理是智能环保系统面临的一个重要难题,很多项目在创建之初采用了传统的大数据解决方案,随着数据体量的日益增长,性能差、效率低、成本高等问题逐渐显露。在本篇文章中,我们汇总了三个典型的智能环保项目的数据架构升级实践,给到有需要的企业参考。


中科惠软 x TDengine

“以往智慧环保项目我们采用传统数据库架构设计,对在海量秒级监测数据实时统计和分析耗时长、CPU 和内存利用率低、磁盘 IO 超负荷。在 A 市智慧环保物联网应用项目我们创新使用了 TDengine,利用了实时流式计算相关函数,解决了大数据存储和计算,降低了代码开发复杂度,让运维工作变得极为简单,极大降低了运营成本。”


业务背景

中科惠软承建的 A 市“智慧环保”物联网应用项目需要采集各类感知设备产生的监测数据和监控设备各种运行状态,项目每天采集各类监测数据 2 亿余条,如果使用公司原架构,可以勉强将每天的数据存储下来,但如果需要实现“某天下午两点 A 路段有多少辆渣土车通过”类似条件的多纬度分组聚合查询,那么采用传统的数据库就无法达成这类查询需求了。考虑到各类感知监测设备会时刻产生大量秒级和分钟级监测数据存储和实时计算,在经过多个时序数据库Time Series Database)之间的性能和稳定性方面对比,最终,中科惠软采用了 TDengine 对生态环境监测数据进行实时存储、计算。


中科惠软选型测试结果

点击案例查看更多技术细节


昆岳互联 x TDengine

“应用 TDengine 后,在进行每分钟的平均量进行实时计算时,我们只需要简单的定义时间窗口和滑动增量,数据库就能返回每分钟的平均量;在处理实时监测、预警的指标上,可以专门为这类数据建立流计算,并将计算结果写入新的表(如下strm_pt_0304)中存储,这样整个实时计算的结果也可以做历史回顾。原本很多需要在程序中处理的数值计算,现在完全都由 TDengine 承担,不仅分担了程序的计算压力,更重要的是聚合结果可以自动持久化存储,支持历史数据即时回看。”


业务背景

昆岳互联的“a 环保”APP 基于自主打造的环保产业互联网平台(INECO 平台),对环境基础设施海量数据实时处理与分析,可以秒级实时采集工业大气环保各项监控指标的数据,分别通过年、月、日三个维度,结合不同的采集频率周期,对采集到的海量数据进行分析、展示。在进行数据库选型中,分别对比了阿里的时序数据库 TSDB、传统的 MySQL 以及 TDengine 后,最终 TDengine 凭借着高效的性能和独特的设计思路脱颖而出。


架构图

点击案例查看更多技术细节


广东环境科学研究院 x TDengine

“我们的一张超级表中存储了 76.5 亿条数据(四张超级表总共 160 亿条数据),分散在 19,419 张子表中,平均每张表 39 万行。由于 TDengine 超级表特性,再加上列式存储和超高的压缩能力,这些数据仅占用了 240GB 内存,不仅帮助我们节省了大量的存储空间,也为数据查询性能打下了良好的基础:对于 76 亿行的超级表,分组 TOP 查询仅用了 0.2 秒;基于 TDengine 返回 2,968 行,仅用了 0.06 秒。”


业务背景

为解决国内环境质量管理、污染源监管和数字政府等生态环境数据的管理工作,广东科学研究院创建了生态环境数据治理服务项目,帮助企业打通所有相关的业务信息系统、建立数据仓库。与一般的数据存储要求不同,该项目感知层的存储方案对数据读写频度和低延时要求更高,同时由于数据量极大,还需要更高的存储效率,此前采用关系型数据库进行数据存储,最多只能保留 3-5 天的数据,不得不按天删除旧数据。之后考虑过采用 PostgreSQL 的 TimescaleDB 扩展,但却不满足政务信息化自主可控的要求。在经过很长一段时间的研究和测试后,TDengine 被成功应用。


架构图

点击案例查看更多技术细节


结语

从上述企业实践来看,TDengine 在智能环保项目上的应用具有很大的优势,可以实现高效的数据采集、存储、分析和展示等功能,为环保系统提供有力的技术支持。目前,全托管的时序数据云服务平台 TDengine Cloud 也已经上线,极致的弹性伸缩能进一步提升业务的降本增效,非常欢迎大家来试用~如果你正面临数据处理难题,也可以联系我们,和志同道合的开发者共同探讨解决路径。

目录
相关文章
|
5月前
|
数据采集 机器学习/深度学习 SQL
如何构建高效的数据分析流程:从技术视角出发
【7月更文挑战第22天】构建高效的数据分析流程是一个持续迭代的过程,需要技术团队与业务团队的紧密合作。通过不断优化流程,企业可以更加高效地利用数据资源,为业务决策提供有力支持。
|
4月前
|
存储 SQL 消息中间件
B端算法实践问题之设计一套实时平台能力如何解决
B端算法实践问题之设计一套实时平台能力如何解决
47 1
|
4月前
|
JSON 数据管理 关系型数据库
【Dataphin V3.9】颠覆你的数据管理体验!API数据源接入与集成优化,如何让企业轻松驾驭海量异构数据,实现数据价值最大化?全面解析、实战案例、专业指导,带你解锁数据整合新技能!
【8月更文挑战第15天】随着大数据技术的发展,企业对数据处理的需求不断增长。Dataphin V3.9 版本提供更灵活的数据源接入和高效 API 集成能力,支持 MySQL、Oracle、Hive 等多种数据源,增强 RESTful 和 SOAP API 支持,简化外部数据服务集成。例如,可轻松从 RESTful API 获取销售数据并存储分析。此外,Dataphin V3.9 还提供数据同步工具和丰富的数据治理功能,确保数据质量和一致性,助力企业最大化数据价值。
227 1
|
5月前
|
存储 数据可视化 数据挖掘
实时数据分析系统的构建与优化
【7月更文挑战第29天】实时数据分析系统的构建与优化是一个复杂而细致的过程,需要从需求分析、数据源确定、数据采集与传输、数据处理与分析、数据存储、数据可视化、系统部署与配置、监控与优化等多个方面进行综合考虑。通过选择合适的技术栈和优化策略,可以构建出高效、稳定的实时数据分析系统,为企业决策提供强有力的支持。
|
6月前
|
SQL 关系型数据库 MySQL
详尽分享音乐数据中心数仓综合项目
详尽分享音乐数据中心数仓综合项目
63 0
|
存储 关系型数据库 MySQL
用户案例合集 | 物联网平台的时序数据处理难点与优化实践
本文汇总了四个典型的物联网平台的实践经验,把它们曾面临的数据难题以及解决思路分享给大家。
302 0
|
数据采集 SQL 数据可视化
79 网站点击流数据分析案例(整体技术流程及架构)
79 网站点击流数据分析案例(整体技术流程及架构)
125 0
|
存储 分布式计算 Hadoop
OushuDB 小课堂丨实时分析:示例和优势
OushuDB 小课堂丨实时分析:示例和优势
63 0
|
消息中间件 SQL 运维
如何设计实时数据平台(技术篇)
本文从技术角度入手,介绍RTDP的技术选型和相关组件,探讨适用不同应用场景的相关模式。
|
SQL 存储 分布式计算
大数据组件综合笔记(一)
Hadoop:Hadoop是一个分布式存储和计算框架,具有高可靠, 高扩展, 高容错的特点(数据副本和集群);由底层HDFS分布式文件系统负责存储,和MapReduce负责分布式计算,以及后续增加的yarn负责资源协调管理。
301 0