OneSQL OLAP实践问题之BIGO ClickHouse实现二阶段提交事务机制如何解决

简介: OneSQL OLAP实践问题之BIGO ClickHouse实现二阶段提交事务机制如何解决

问题一:在处理流维表JOIN时,面对Hive大维表导致的OOM问题,采取了哪些优化措施?


在处理流维表JOIN时,面对Hive大维表导致的OOM问题,采取了哪些优化措施?


参考回答:

"为了处理Hive大维表导致的OOM问题,我们采取了以下优化措施:

Hive维表Hash分片:将Hive大维表按照Join Key进行Hash分片,通过Hash函数计算后分布到Flink作业的不同并行子任务的HashMap中。这样,每个HashMap只存放大维表的一部分数据,通过增加作业的并行度,可以将大维表的数据拆分成足够多份进行分片保存。

使用Rocksdb Map State:对于一些仍然太大的维表分片,我们使用Rocksdb Map State来保存分片数据,以进一步减少内存压力。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/666308



问题二:在Flink中将流表数据与Hive维表进行JOIN时,数据是如何被分配到对应subtask的?


在Flink中将流表数据与Hive维表进行JOIN时,数据是如何被分配到对应subtask的?


参考回答:

"在Flink中,Kafka流表中的数据在需要下发到不同的subtask上进行JOIN时,会首先通过相同的Join Key和Hash函数进行计算。这个Hash计算结果决定了数据应该被分配到哪个subtask进行JOIN操作。由于Hive维表已经按照相同的Hash函数进行了分片,因此流表中的数据可以准确地找到对应的subtask进行JOIN,从而输出JOIN后的结果。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/666309



问题三:BIGO ClickHouse是如何实现二阶段提交事务机制来支持Exactly-Once语义的?


BIGO ClickHouse是如何实现二阶段提交事务机制来支持Exactly-Once语义的?


参考回答:

"BIGO ClickHouse实现了一个二阶段提交事务机制来支持Exactly-Once语义。具体步骤如下:

临时写入:当需要写入数据到ClickHouse时,首先将数据以temporary模式写入,表示这些数据是临时的。

记录Insert ID:数据插入完成后,返回一个Insert ID,用于后续的提交操作。

批量提交:在两次checkpoint之间,可能会有多次insert操作产生多个Insert ID。当checkpoint完成时,将这些Insert ID批量提交,将临时数据转为正式数据。

Failover处理:如果作业出现Failover,Flink作业重启后会从最近一次完成的checkpoint恢复状态。对于未提交的Insert ID,会进行重试提交。而那些已经写入但Insert ID未记录的数据,由于是临时数据,会被ClickHouse的过期清理机制清理掉,从而避免数据重复。"


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/666310



问题四:BIGO实时计算平台Bigoflow主要提供了哪些功能?


BIGO实时计算平台Bigoflow主要提供了哪些功能?


参考回答:

"BIGO实时计算平台Bigoflow主要提供了以下功能:

多类型作业支持:支持Flink JAR、SQL、Python等多种类型作业,满足不同开发者的需求。

版本兼容性:支持不同的Flink版本,覆盖公司内部大部分实时计算相关业务。

一站式管理:集作业开发、提交、运行、历史展示、监控、告警于一体,便于用户随时查看作业的运行状态和发现问题。

血缘关系查询:提供血缘关系查询功能,方便用户了解每个作业的数据源、数据目的以及数据计算的来龙去脉。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/666311


问题五:Onesql OLAP 分析平台在公司内部主要用于哪些类型的查询?


Onesql OLAP 分析平台在公司内部主要用于哪些类型的查询?


参考回答:

Onesql OLAP 分析平台在公司内部主要应用于 AdHoc 查询。用户通过 Hue 页面提交的 SQL 查询,由 OneSQL 后端转发给 Flink SQL Gateway,并在 Flink Session 集群上执行这些查询任务。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/666312

相关实践学习
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
相关文章
|
2月前
|
存储 SQL 消息中间件
从 ClickHouse 到 StarRocks 存算分离: 携程 UBT 架构升级实践
查询性能实现从秒级到毫秒级的跨越式提升
|
5月前
|
SQL 分布式计算 DataWorks
破界·融合·进化:解码DataWorks与Hologres的湖仓一体实践
基于阿里云DataWorks与实时数仓Hologres,提供统一的大数据开发治理平台与全链路实时分析能力。DataWorks支持多行业数据集成与管理,Hologres实现海量数据的实时写入与高性能查询分析,二者深度融合,助力企业构建高效、实时的数据驱动决策体系,加速数字化升级。
|
8月前
|
存储 监控 数据挖掘
京东物流基于Flink & StarRocks的湖仓建设实践
本文整理自京东物流高级数据开发工程师梁宝彬在Flink Forward Asia 2024的分享,聚焦实时湖仓的探索与建设、应用实践、问题思考及未来展望。内容涵盖京东物流通过Flink和Paimon等技术构建实时湖仓体系的过程,解决复杂业务场景下的数据分析挑战,如多维OLAP分析、大屏监控等。同时,文章详细介绍了基于StarRocks的湖仓一体方案,优化存储成本并提升查询效率,以及存算分离的应用实践。最后,对未来数据服务的发展方向进行了展望,计划推广长周期数据存储服务和原生数据湖建设,进一步提升数据分析能力。
796 1
京东物流基于Flink & StarRocks的湖仓建设实践
|
8月前
|
存储 SQL 运维
中国联通网络资源湖仓一体应用实践
本文分享了中国联通技术专家李晓昱在Flink Forward Asia 2024上的演讲,介绍如何借助Flink+Paimon湖仓一体架构解决传统数仓处理百亿级数据的瓶颈。内容涵盖网络资源中心概况、现有挑战、新架构设计及实施效果。新方案实现了数据一致性100%,同步延迟从3小时降至3分钟,存储成本降低50%,为通信行业提供了高效的数据管理范例。未来将深化流式数仓与智能运维融合,推动数字化升级。
384 0
中国联通网络资源湖仓一体应用实践
|
4月前
|
SQL 存储 运维
Apache Doris 在菜鸟的大规模湖仓业务场景落地实践
本文介绍了 Apache Doris 在菜鸟的大规模落地的实践经验,菜鸟为什么选择 Doris,以及 Doris 如何在菜鸟从 0 开始,一步步的验证、落地,到如今上万核的规模,服务于各个业务线,Doris 已然成为菜鸟 OLAP 数据分析的最优选型。
325 2
Apache Doris 在菜鸟的大规模湖仓业务场景落地实践
|
8月前
|
存储 SQL 监控
ClickHouse 应用剖析:设计理念、机制与实践
ClickHouse 是一款高性能的列式数据库管理系统,主要用于实时的大数据分析场景。它由俄罗斯 Yandex 公司开源于 2016 年,在网页日志分析、物联网监控、广告计费等领域有广泛应用。ClickHouse 通过列式存储、向量化执行和分布式架构,实现对海量数据的快速查询分析。本文将介绍 ClickHouse 的设计理念,以及在实际使用中如何处理数据删除更新、冷热数据分离等问题,并提供常见配置的调优建议和异常问题的处理方法。
1035 14
ClickHouse 应用剖析:设计理念、机制与实践
|
8月前
|
存储 消息中间件 Java
抖音集团电商流量实时数仓建设实践
本文基于抖音集团电商数据工程师姚遥在Flink Forward Asia 2024的分享,围绕电商流量数据处理展开。内容涵盖业务挑战、电商流量建模架构、流批一体实践、大流量任务调优及总结展望五个部分。通过数据建模与优化,实现效率、质量、成本和稳定性全面提升,数据质量达99%以上,任务性能提升70%。未来将聚焦自动化、低代码化与成本优化,探索更高效的流批一体化方案。
569 12
抖音集团电商流量实时数仓建设实践
|
5月前
|
运维 算法 机器人
阿里云AnalyticDB具身智能方案:破解机器人仿真数据、算力与运维之困
本文将介绍阿里云瑶池旗下的云原生数据仓库AnalyticDB MySQL推出的全托管云上仿真解决方案,方案采用云原生架构,为开发者提供从开发环境、仿真计算到数据管理的全链路支持。

推荐镜像

更多