多模数据库Lindorm再升级:对接Dataphin,打通数据治理“最后一公里”

本文涉及的产品
云原生内存数据库 Tair,内存型 2GB
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
云数据库 MongoDB,通用型 2核4GB
简介: Lindorm通过与Dataphin的深度整合,进一步解决了数据集成和数据治理的问题,为企业提供更加高效和更具性价比的方案。

随着车联网、IoT和AI应用的普及,多模数据处理需求日益增长,企业面临的挑战不仅仅在于数据的收集和存储,更在于如何高效进行数据的计算和治理,从而实现数据价值最大化。


以车联网数据为例,这一场景在数据链路和数据处理上的需求都十分复杂:

  • 首先,数据类型多样,包含车机状态、地理位置信息、运行日志等多种具备明显时序特点的数据,在业务视角上又需要建模成超级大宽表。
  • 其次,在数据处理链路上,既有实时链路,也有离线链路,需要同时覆盖业务的在线查询、多维检索、实时分析以及离线分析等多种数据处理要求。
  • 此外,随着汽车智能化的快速迭代,业务中会持续新增或变更字段,整个数据平台还需要频繁应对全链路的字段变更需求。


传统的方案从互联网技术栈演进而来,往往涉及多个产品(时序数据库、时空数据库、HBase、Hive、Spark等)的组合,缺少针对车联网数据特点的理解和优化,不但架构复杂,价格高昂,而且会导致开发和运维的效率低下。

001.png

图:传统车联网数据架构链路长、冗余多


阿里云云原生多模数据库Lindorm可通过一个产品将架构收敛,支持宽表、JSON、时序、BLOB、向量、时空等数据类型的存储、查询、分析和推理,并且支持通过统一的SQL进行不同数据类型的处理。目前,Lindorm还通过与Dataphin的深度整合,进一步解决了数据集成和数据治理的问题,为企业提供更加高效和更具性价比的方案。

Lindorm车联网数据处理的核心优势

Lindorm提供海量时序数据低成本存储、在线查询和检索、离线分析、AI推理的一站式数据服务,是互联网、IoT、金融交易、监控等场景的首选。车联网数据本质是以时序数据为主的多模型数据,因此Lindorm更是完美适配车企的智能化、数字化需求,成为了车联网数据中台的理想选择:


  • 高并发在线车机数据服务。Lindorm的宽表引擎支持万列大宽表模型千万级QPS的在线点查,通过Lindorm的搜索引擎扩展车机数据的在线多指标条件查询、聚合等能力。
  • 全量车机时序数据低成本存储。Lindorm以Iceberg湖表格式存储海量车机数据,基于列存适合压缩的特点,通过自研高压缩算法提供Parquet的2倍压缩比,结合冷热分离的异构存储能力,存储成本降低50%以上
  • Serverless弹性计算。Lindorm使用Serverless计算引擎按需申请计算资源完成ETL任务,无资源空置;同时,计算引擎中内置查询加速组件,数据无需转移到新的数据仓库,即可原地交互式分析。一份数据对接业务需要的离线分析、BI报表、自助分析等场景。
  • 车辆轨迹处理。Lindorm提供原生的GIS数据类型,可以实现对轨迹数据的实时查询和地理围栏分析,还可以由Lindorm计算引擎配合进行时空聚合分析

image.png

图:Lindorm一站式车联网数据架构


相对于传统多个组件搭配组合方案,Lindorm不仅一体化覆盖了多模数据处理需求,而且能够通过高压缩、弹性计算来降低综合成本,保证高性能来提升业务效率,充分满足企业数据建设与治理的需求。

Lindorm再升级,携手Dataphin共筑数据治理解决方案

现如今,Lindorm已成为70%的头部车企国内80%的造车新势力企业的选择。通过与Dataphin对接,不仅进一步为用户带来了成本节约与开发简化,更是解决了数据集成与治理的“最后一公里”问题。

0618配图05.png

图:“Lindorm+Dataphin”开启高性价比数据治理


Dataphin是阿里巴巴十余年内部治理实践及方法论的产品化输出,针对各行业大数据建设、治理及应用诉求,提供全域数据集成、可视建模及规范定义、数据资产治理及运营等能力,帮助企业一站式构建标准统一、质量可靠、安全稳定、消费便捷的数据体系。


通过Lindorm与Dataphin的接力,企业能够轻松实现数据中台构建,享受标准化和可交互的数据管理和数据资产治理过程,包括多源数据写入、分层建模、ETL任务调度、用户数据资产体系建立、以及业务场景数据标签开发等。企业的多源数据汇总成统一数据,仅需根据业务逻辑进行白屏化的数据建设、任务管理和指标观测,从而更加高效地挖掘车联网数据潜力。

03@2x.png

图:Lindorm x 瓴羊Dataphin数据“采、建、管、用”统一平台


Lindorm和Dataphin同样都是沉淀了阿里巴巴内部经验,历经十余年打磨而来,此前已联手支撑了多家头部企业的数据需求,并获得高度认可。如今,Lindorm与Dataphin深度对接后的服务领域将进一步拓宽,覆盖数据搜索、分析、推理和治理等更丰富的链路,助力企业高效迈向智能化、数字化的未来。

相关文章
|
1月前
|
SQL 分布式计算 DataWorks
Dataphin常见问题之补数据任务卡着不动如何解决
Dataphin是阿里云提供的一站式数据处理服务,旨在帮助企业构建一体化的智能数据处理平台。Dataphin整合了数据建模、数据处理、数据开发、数据服务等多个功能,支持企业更高效地进行数据治理和分析。
|
1月前
|
Java 数据处理 调度
Dataphin常见问题之离线管道同步数据datax就报连接超时如何解决
Dataphin是阿里云提供的一站式数据处理服务,旨在帮助企业构建一体化的智能数据处理平台。Dataphin整合了数据建模、数据处理、数据开发、数据服务等多个功能,支持企业更高效地进行数据治理和分析。
|
1月前
|
SQL 关系型数据库 MySQL
【MySQL技术专题】「问题实战系列」深入探索和分析MySQL数据库的数据备份和恢复实战开发指南(8.0版本升级篇)
【MySQL技术专题】「问题实战系列」深入探索和分析MySQL数据库的数据备份和恢复实战开发指南(8.0版本升级篇)
167 0
|
22天前
|
数据采集 安全 API
DataphinV4.1大升级: 支持Lindorm开启高性价比数据治理,迎来“公共云半托管”云上自助新模式
Dataphin 是阿里巴巴旗下的一个智能数据建设与治理平台,旨在帮助企业构建高效、可靠、安全的数据资产。在V4.1版本升级中,Dataphin 引入了Lindorm等多项新功能,并开启公共云半托管模式,优化代码搜索,为用户提供更加高效、灵活、安全的数据管理和运营环境,提升用户体验,促进企业数据资产的建设和价值挖掘。
1238 3
DataphinV4.1大升级: 支持Lindorm开启高性价比数据治理,迎来“公共云半托管”云上自助新模式
|
18天前
|
数据采集 DataWorks NoSQL
DataWorks产品使用合集之如何打通公网数据库
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
27 1
|
21天前
|
数据采集 数据可视化 数据管理
台州银行携手瓴羊Dataphin共建数据平台,打造小微金融治理新标杆
台州银行数据治理项目携手瓴羊Dataphin,荣获中国信息通信研究院评为“2023年铸基计划高质量数字化转型典型优秀案例”、数字化研究机构沙丘社区选为“2024中国数据资产管理最佳实践案例”双重认可。
169 4
|
1天前
|
Java 数据库连接 API
数据库与Java的无缝对接:Hibernate与JPA的集成与应用
【6月更文挑战第25天】Java企业级应用中,Hibernate和JPA是ORM主流框架。JPA是标准API,定义对象-关系映射规范,强调标准化和可移植性。Hibernate是JPA的具体实现,扩展了更多功能,如强大的查询语言和缓存机制。两者集成允许开发者利用Hibernate性能,通过JPA注解保持代码规范。示例展示了如何使用JPA注解定义实体和Hibernate执行查询,实现数据库操作。这种方式提升了开发效率和应用质量。
|
2天前
|
时序数据库
时序数据库工具grafana里的$timeFilter查询1个小时内的数据如何写查询条件
【6月更文挑战第24天】时序数据库工具grafana里的$timeFilter查询1个小时内的数据如何写查询条件
50 0
|
1月前
|
SQL DataWorks 监控
Dataphin常见问题之数据怎么都补不过去如何解决
Dataphin是阿里云提供的一站式数据处理服务,旨在帮助企业构建一体化的智能数据处理平台。Dataphin整合了数据建模、数据处理、数据开发、数据服务等多个功能,支持企业更高效地进行数据治理和分析。
|
1月前
|
存储 Oracle 关系型数据库
Dataphin常见问题之想要周期执行任务如何解决
Dataphin是阿里云提供的一站式数据处理服务,旨在帮助企业构建一体化的智能数据处理平台。Dataphin整合了数据建模、数据处理、数据开发、数据服务等多个功能,支持企业更高效地进行数据治理和分析。