多模数据库Lindorm再升级:对接Dataphin,打通数据治理“最后一公里”

本文涉及的产品
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: Lindorm通过与Dataphin的深度整合,进一步解决了数据集成和数据治理的问题,为企业提供更加高效和更具性价比的方案。

随着车联网、IoT和AI应用的普及,多模数据处理需求日益增长,企业面临的挑战不仅仅在于数据的收集和存储,更在于如何高效进行数据的计算和治理,从而实现数据价值最大化。


以车联网数据为例,这一场景在数据链路和数据处理上的需求都十分复杂:

  • 首先,数据类型多样,包含车机状态、地理位置信息、运行日志等多种具备明显时序特点的数据,在业务视角上又需要建模成超级大宽表。
  • 其次,在数据处理链路上,既有实时链路,也有离线链路,需要同时覆盖业务的在线查询、多维检索、实时分析以及离线分析等多种数据处理要求。
  • 此外,随着汽车智能化的快速迭代,业务中会持续新增或变更字段,整个数据平台还需要频繁应对全链路的字段变更需求。


传统的方案从互联网技术栈演进而来,往往涉及多个产品(时序数据库、时空数据库、HBase、Hive、Spark等)的组合,缺少针对车联网数据特点的理解和优化,不但架构复杂,价格高昂,而且会导致开发和运维的效率低下。

001.png

图:传统车联网数据架构链路长、冗余多


阿里云云原生多模数据库Lindorm可通过一个产品将架构收敛,支持宽表、JSON、时序、BLOB、向量、时空等数据类型的存储、查询、分析和推理,并且支持通过统一的SQL进行不同数据类型的处理。目前,Lindorm还通过与Dataphin的深度整合,进一步解决了数据集成和数据治理的问题,为企业提供更加高效和更具性价比的方案。

Lindorm车联网数据处理的核心优势

Lindorm提供海量时序数据低成本存储、在线查询和检索、离线分析、AI推理的一站式数据服务,是互联网、IoT、金融交易、监控等场景的首选。车联网数据本质是以时序数据为主的多模型数据,因此Lindorm更是完美适配车企的智能化、数字化需求,成为了车联网数据中台的理想选择:


  • 高并发在线车机数据服务。Lindorm的宽表引擎支持万列大宽表模型千万级QPS的在线点查,通过Lindorm的搜索引擎扩展车机数据的在线多指标条件查询、聚合等能力。
  • 全量车机时序数据低成本存储。Lindorm以Iceberg湖表格式存储海量车机数据,基于列存适合压缩的特点,通过自研高压缩算法提供Parquet的2倍压缩比,结合冷热分离的异构存储能力,存储成本降低50%以上
  • Serverless弹性计算。Lindorm使用Serverless计算引擎按需申请计算资源完成ETL任务,无资源空置;同时,计算引擎中内置查询加速组件,数据无需转移到新的数据仓库,即可原地交互式分析。一份数据对接业务需要的离线分析、BI报表、自助分析等场景。
  • 车辆轨迹处理。Lindorm提供原生的GIS数据类型,可以实现对轨迹数据的实时查询和地理围栏分析,还可以由Lindorm计算引擎配合进行时空聚合分析

image.png

图:Lindorm一站式车联网数据架构


相对于传统多个组件搭配组合方案,Lindorm不仅一体化覆盖了多模数据处理需求,而且能够通过高压缩、弹性计算来降低综合成本,保证高性能来提升业务效率,充分满足企业数据建设与治理的需求。

Lindorm再升级,携手Dataphin共筑数据治理解决方案

现如今,Lindorm已成为70%的头部车企国内80%的造车新势力企业的选择。通过与Dataphin对接,不仅进一步为用户带来了成本节约与开发简化,更是解决了数据集成与治理的“最后一公里”问题。

0618配图05.png

图:“Lindorm+Dataphin”开启高性价比数据治理


Dataphin是阿里巴巴十余年内部治理实践及方法论的产品化输出,针对各行业大数据建设、治理及应用诉求,提供全域数据集成、可视建模及规范定义、数据资产治理及运营等能力,帮助企业一站式构建标准统一、质量可靠、安全稳定、消费便捷的数据体系。


通过Lindorm与Dataphin的接力,企业能够轻松实现数据中台构建,享受标准化和可交互的数据管理和数据资产治理过程,包括多源数据写入、分层建模、ETL任务调度、用户数据资产体系建立、以及业务场景数据标签开发等。企业的多源数据汇总成统一数据,仅需根据业务逻辑进行白屏化的数据建设、任务管理和指标观测,从而更加高效地挖掘车联网数据潜力。

03@2x.png

图:Lindorm x 瓴羊Dataphin数据“采、建、管、用”统一平台


Lindorm和Dataphin同样都是沉淀了阿里巴巴内部经验,历经十余年打磨而来,此前已联手支撑了多家头部企业的数据需求,并获得高度认可。如今,Lindorm与Dataphin深度对接后的服务领域将进一步拓宽,覆盖数据搜索、分析、推理和治理等更丰富的链路,助力企业高效迈向智能化、数字化的未来。

相关文章
|
7天前
|
存储 关系型数据库 数据库
高性能云盘:一文解析RDS数据库存储架构升级
性能、成本、弹性,是客户实际使用数据库过程中关注的三个重要方面。RDS业界率先推出的高性能云盘(原通用云盘),是PaaS层和IaaS层的深度融合的技术最佳实践,通过使用不同的存储介质,为客户提供同时满足低成本、低延迟、高持久性的体验。
|
17天前
|
数据采集 安全 大数据
Dataphin 5.1:API数据源及管道组件升级,适配多样化认证的API
为提升API数据交互安全性,Dataphin 5.1推出两种新认证方式:基于OAuth 2.0的动态授权与请求签名认证。前者通过短期Access Token确保安全,后者对关键参数加密签名保障数据完整性。功能支持API数据源OAuth 2.0认证和自定义签名配置,未来还将拓展更灵活的认证方式以满足多样化需求。
78 14
|
2月前
|
SQL 数据采集 分布式计算
Dataphin测评:企业级数据中台的「智能中枢」与「治理引擎」
Dataphin是一款智能数据建设与治理平台,基于阿里巴巴OneData方法论,提供从数据采集、建模研发到资产治理、数据服务的全链路智能化能力。它帮助企业解决数据口径混乱、质量参差等问题,构建标准化、资产化、服务化的数据中台体系。本文通过详细的操作步骤,介绍了如何使用Dataphin进行离线数仓搭建,包括规划数仓、数据集成、数据处理、运维补数据及验证数据等环节。尽管平台功能强大,但在部署文档更新、新手友好度及基础功能完善性方面仍有提升空间。未来可引入SQL智能纠错、自然语言生成报告等功能,进一步增强用户体验与数据治理效率。
220 26
Dataphin测评:企业级数据中台的「智能中枢」与「治理引擎」
|
23天前
|
数据采集 存储 监控
星河中的数据旅程:从普通字段到核心指标 -- 基于Dataphin的数据源资产全链路管理
在数据星河中,Starrocks星球的字段居民渴望登上资产管理平台,贡献数据力量。通过元数据采集、标准稽核与质量监控,字段们获得新身份“核心业务指标”。借助Dataphin平台功能,如自定义属性和QuickBI对接,它们最终参与经营分析报表,助力决策。Dataphin V4.4提升了全链路管理能力,新增大数据存储元数据采集、自定义指标等功能,释放数据潜力。加入Dataphin,探索数据无限可能!
|
5月前
|
安全 数据挖掘 大数据
开放、兼容的数据建设与治理平台——瓴羊Dataphin“进化论” |【瓴羊数据荟】数据MeetUp第三期
Dataphin的技术架构与实践路径,涵盖多引擎兼容、混合云架构、统一资产消费等方面,Dataphin通过持续升级,帮助企业实现全生命周期的数据资产管理,助力企业在大模型时代更好地“建好数据”、“用好数据”。
372 87
开放、兼容的数据建设与治理平台——瓴羊Dataphin“进化论” |【瓴羊数据荟】数据MeetUp第三期
|
3月前
|
数据采集 SQL 人工智能
告别数据混乱:瓴羊Dataphin 通过AI+标准让企业数据“活”起来 | 【瓴羊数据荟】数据MeetUp第四期
AI技术的快速发展促使企业重新审视数据治理的重要性。当前,企业在数据治理中常因指标口径不统一、数据血缘不透明等问题陷入困境。阿里云智能集团瓴羊高级技术专家周鑫提出,以数据标准为核心贯穿数据全生命周期,可有效解决治理难题。
211 15
告别数据混乱:瓴羊Dataphin 通过AI+标准让企业数据“活”起来 | 【瓴羊数据荟】数据MeetUp第四期
|
2月前
|
存储 SQL 运维
当「内容科技企业」遇上多模数据库:新榜采用Lindorm打造全域数据“超级底盘”
新榜业务以数据服务提升内容产业信息流通效率,其数据处理需求聚焦于跨平台实时数据融合处理、实时分析检索、批量更新效率三大维度。Lindorm通过多模超融合架构,提供检索分析一体化、多引擎数据共享,分布式弹性扩展等能力,成为支撑新榜内容服务的核心引擎,助力客户在内容生态竞争中持续领跑。
|
2月前
|
存储 SQL 运维
当「内容科技企业」遇上多模数据库:新榜采用Lindorm打造全域数据“超级底盘”
新榜业务以数据服务提升内容产业信息流通效率,其数据处理需求聚焦于跨平台实时数据融合处理、实时分析检索、批量更新效率三大维度。Lindorm通过多模超融合架构,提供检索分析一体化、多引擎数据共享,分布式弹性扩展等能力,成为支撑新榜内容服务的核心引擎,助力客户在内容生态竞争中持续领跑。
|
3月前
|
数据库
【YashanDB知识库】数据库升级后用yasboot在线扩充备节点出现报错
本文来自YashanDB官网,讨论从22.2.4.1升级至23.2.2.100过程中遇到的在线扩容问题。使用yasboot增加备节点时出现“no replication addr in node 1-1”错误,尽管数据库中存在相关配置。原因是早期托管功能未支持扩容,导致OM无法获取新库配置。提供两种规避方法:一是手动修改`cod_domor.db`信息并调整配置文件;二是手动安装YashanDB并配置备机。最终已向研发反馈,将在扩容时优化配置检查逻辑。
|
2月前
|
人工智能 关系型数据库 分布式数据库
让数据与AI贴得更近,阿里云瑶池数据库系列产品焕新升级
4月9日阿里云AI势能大会上,阿里云瑶池数据库发布重磅新品及一系列产品能力升级。「推理加速服务」Tair KVCache全新上线,实现KVCache动态分层存储,显著提高内存资源利用率,为大模型推理降本提速。