AI 助理
文档备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 文章 正文

Apache Hudi 在 B 站构建实时数据湖的实践

2021-09-06 3315
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： B 站选择 Flink + Hudi 的数据湖技术方案，以及针对其做出的优化。

本文作者喻兆靖，介绍了为什么 B 站选择 Flink + Hudi 的数据湖技术方案，以及针对其做出的优化。主要内容为：

  1. 传统离线数仓痛点
  2. 数据湖技术方案
  3. Hudi 任务稳定性保障
  4. 数据入湖实践
  5. 增量数据湖平台收益
  6. 社区贡献
  7. 未来的发展与思考

GitHub 地址
https://github.com/apache/flink
欢迎大家给 Flink 点赞送 star~

一、传统离线数仓痛点

1. 痛点

之前 B 站数仓的入仓流程大致如下所示：

img

在这种架构下产生了以下几个核心痛点：

  1. 大规模的数据落地 HDFS 后，只能在凌晨分区归档后才能查询并做下一步处理；
  2. 数据量较大的 RDS 数据同步，需要在凌晨分区归档后才能处理，并且需要做排序、去重以及 join 前一天分区的数据，才能产生出当天的数据；
  3. 仅能通过分区粒度读取数据，在分流等场景下会出现大量的冗余 IO。

总结一下就是:

  • 调度启动晚；
  • 合并速度慢；
  • 重复读取多。

2. 痛点思考

  • 调度启动晚

    思路：既然 Flink 落 ODS 是准实时写入的，有明确的文件增量概念，可以使用基于文件的增量同 步，将清洗、补维、分流等逻辑通过增量的方式进行处理，这样就可以在 ODS 分区未归档的时 候就处理数据，理论上数据的延迟只取决于最后一批文件的处理时间。

  • 合并速度慢

    思路：既然读取已经可以做到增量化了，那么合并也可以做到增量化，可以通过数据湖的能力结 合增量读取完成合并的增量化。

  • 重复读取多

    思路：重复读取多的主要原因是分区的粒度太粗了，只能精确到小时/天级别。我们需要尝试一 些更加细粒度的数据组织方案，将 Data Skipping 可以做到字段级别，这样就可以进行高效的数 据查询了。

3. 解决方案: Magneto - 基于 Hudi 的增量数据湖平台

以下是基于 Magneto 构建的入仓流程：

img

  • Flow

    • 使用流式 Flow 的方式，统一离线和实时的 ETL Pipline

  • Organizer

    • 数据重组织，加速查询
    • 支持增量数据的 compaction

  • Engine

    • 计算层使用 Flink，存储层使用 Hudi

  • Metadata

    • 提炼表计算 SQL 逻辑
    • 标准化 Table Format 计算范式

二、数据湖技术方案

1. Iceberg 与 Hudi 的取舍

1.1 技术细节对比

img

1.2 社区活跃度对比

统计截止至 2021-08-09

img

1.3 总结

大致可以分为以下几个主要纬度来进行对比：

  • 对 Append 的支持

    Iceberg 设计之初的主要支持方案，针对该场景做了很多优化。 Hudi 在 0.9 版本中对 Appned 模式进行了支持，目前在大部分场景下和 Iceberg 的差距不大， 目前的 0.10 版本中仍然在持续优化，与 Iceberg 的性能已经非常相近了。

  • 对 Upsert 的支持

    Hudi 设计之初的主要支持方案，相对于 Iceberg 的设计，性能和文件数量上有非常明显的优 势，并且 Compaction 流程和逻辑全部都是高度抽象的接口。 Iceberg 对于 Upsert 的支持启动较晚，社区方案在性能、小文件等地方与 Hudi 还有比较明显 的差距。

  • 社区活跃度

    Hudi 的社区相较于 Iceberg 社区明显更加活跃，得益于社区活跃，Hudi 对于功能的丰富程度与 Iceberg 拉开了一定的差距。

综合对比，我们选择了 Hudi 作为我们的数据湖组件，并在其上继续优化我们需要的功能 ( Flink 更好的集成、Clustering 支持等)

2. 选择 Flink + Hudi 作为写入方式

我们选择 Flink + Hudi 的方式集成 Hudi 的主要原因有三个：

  1. 我们部分自己维护了 Flink 引擎，支撑了全公司的实时计算，从成本上考虑不想同时维护两套计算引擎，尤其是在我们内部 Spark 版本也做了很多内部修改的情况下。

  2. Spark + Hudi 的集成方案主要有两种 Index 方案可供选择，但是都有劣势：

    • Bloom Index：使用 Bloom Index 的话，Spark 会在写入的时候，每个 task 都去 list 一遍所有的文件，读取 footer 内写入的 Bloom 过滤数据，这样会对我们内部压力已经非常大的 HDFS 造成非常恐怖的压力。
    • Hbase Index：这种方式倒是可以做到 O(1) 的找到索引，但是需要引入外部依赖，这样会使整个方案变的比较重。
  3. 我们需要和 Flink 增量处理的框架进行对接。

3. Flink + Hudi 集成的优化

3.1 Hudi 0.8 版本集成 Flink 方案

img

针对 Hudi 0.8 版本集成暴露出来的问题，B站和社区合作进行了优化与完善。

3.2 Bootstrap State 冷启动

背景：支持在已经存在 Hudi 表启动 Flink 任务写入，从而可以做到由 Spark on Hudi 到 Flink on Hudi 的方案切换

原方案：

img

问题：每个 Task 处理全量数据，然后选择属于当前 Task 的 HoodieKey 存入 state 优化方案。

img

  • 每个 Bootstrap Operator 在初始化时，加载属于当前 Task 的 fileId 相关的 BaseFile 和 logFile；
  • 将 BaseFile 和 logFile 中的 recordKey 组装成 HoodieKey，通过 Key By 的形式发送给 BucketAssignFunction，然后将 HoodieKey 作为索引存储在 BucketAssignFunction 的 state 中。

效果：通过将 Bootstrap 功能单独抽出一个 Operator，做到了索引加载的可扩展性，加载速度提升 N (取决于并发度) 倍。

3.3 Checkpoint 一致性优化

背景：在 Hudi 0.8 版本的 StreamWriteFunction 中，存在极端情况下的数据一致性问题。

原方案：

img

问题：CheckpointComplete不在CK生命周期内，存在CK成功但是instant没有commit的情 况，从而导致出现数据丢失。

优化方案：

img

3.4 Append 模式支持及优化

背景：Append 模式是用于支持不需要 update 的数据集时使用的模式，可以在流程中省略索引、 合并等不必要的处理，从而大幅提高写入效率。

img

主要修改：

  • 支持每次 FlushBucket 写入一个新的文件，避免出现读写的放大；
  • 添加参数，支持关闭 BoundedInMemeoryQueue 内部的限速机制，在 Flink Append 模式下只需要将 Queue 的大小和 Bucket buffer 设置成同样的大小就可以了；
  • 针对每个 CK 产生的小文件，制定自定义 Compaction 计划；
  • 通过以上的开发和优化之后，在纯 Insert 场景下性能可达原先 COW 的 5 倍。

三、Hudi 任务稳定性保障

1. Hudi 集成 Flink Metrics

通过在关键节点上报 Metric，可以比较清晰的掌握整个任务的运行情况：

img

img

2. 系统内数据校验

img

3. 系统外数据校验

img

四、数据入湖实践

1. CDC数据入湖

1.1 TiDB入湖方案

由于目前开源的各种方案都没办法直接支持 TiDB 的数据导出，直接使用 Select 的方式会影响数 据库的稳定性，所以拆成了全量 + 增量的方式：

  1. 启动 TI-CDC，将 TIDB 的 CDC 数据写入对应的 Kafka topic；
  2. 利用 TiDB 提供的 Dumpling 组件，修改部分源码，支持直接写入 HDFS；
  3. 启动 Flink 将全量数据通过 Bulk Insert 的方式写入 Hudi；
  4. 消费增量的 CDC 数据，通过 Flink MOR 的方式写入 Hudi。

1.2 MySQL 入湖方案

MySQL 的入湖方案是直接使用开源的 Flink-CDC，将全量和增量数据通过一个 Flink 任务写入 Kafka topic：

  1. 启动 Flink-CDC 任务将全量数据以及 CDC 数据导入 Kafka topic；
  2. 启动 Flink Batch 任务读取全量数据，通过 Bulk Insert 写入 Hudi；
  3. 切换为 Flink Streaming 任务将增量 CDC 数据通过 MOR 的方式写入 Hudi。

img

2. 日志数据增量入湖

  • 实现 HDFSStreamingSource 和 ReaderOperator，增量同步 ODS 的数据文件，并且通过写入 ODS 的分区索引信息，减少对 HDFS 的 list 请求；
  • 支持 transform SQL 配置化，允许用户进行自定义逻辑转化，包括但不限于维表 join、自定义 udf、按字段分流等；
  • 实现 Flink on Hudi 的 Append 模式，大幅提升不需要合并的数据写入速率。

img

五、增量数据湖平台收益

  • 通过 Flink 增量同步大幅度提升了数据同步的时效性，分区就绪时间从 2:00~5:00 提前到 00:30 分内；
  • 存储引擎使用 Hudi，提供用户基于 COW、MOR 的多种查询方式，让不同用户可以根据自己 的应用场景选择合适的查询方式，而不是单纯的只能等待分区归档后查询；
  • 相较于之前数仓的 T+1 Binlog 合并方式，基于 Hudi 的自动 Compaction 使得用户可以将 Hive 当成 MySQL 的快照进行查询；
  • 大幅节约资源，原先需要重复查询的分流任务只需要执行一次，节约大约 18000 core。

六、社区贡献

上述优化都已经合并到 Hudi 社区，B站在未来会进一步加强 Hudi 的建设，与社区一起成⻓。

部分核心PR

https://issues.apache.org/jira/projects/Hudi/issues/Hudi-1923

https://issues.apache.org/jira/projects/Hudi/issues/Hudi-1924

https://issues.apache.org/jira/projects/Hudi/issues/Hudi-1954

https://issues.apache.org/jira/projects/Hudi/issues/Hudi-2019

https://issues.apache.org/jira/projects/Hudi/issues/Hudi-2052

https://issues.apache.org/jira/projects/Hudi/issues/Hudi-2084

https://issues.apache.org/jira/projects/Hudi/issues/Hudi-2342

七、未来的发展与思考

  • 平台支持流批一体，统一实时与离线逻辑；
  • 推进数仓增量化，达成 Hudi ODS -> Flink -> Hudi DW -> Flink -> Hudi ADS 的全流程；
  • 在 Flink 上支持 Hudi 的 Clustering，体现出 Hudi 在数据组织上的优势，并探索 Z-Order 等加速多维查询的性能表现；
  • 支持 inline clustering。

第三届 Apache Flink 极客挑战赛报名开始！
30 万奖金等你来！

伴随着海量数据的冲击，数据处理分析能力在业务中的价值与日俱增，各行各业对于数据处理时效性的探索也在不断深入，作为主打实时计算的计算引擎 - Apache Flink 应运而生。

为给行业带来更多实时计算赋能实践的思路，鼓励广大热爱技术的开发者加深对 Flink 的掌握，Apache Flink 社区联手阿里云、英特尔、阿里巴巴人工智能治理与可持续发展实验室 (AAIG)、Occlum 联合举办 "第三届 Apache Flink 极客挑战赛暨 AAIG CUP" 活动，即日起正式启动。

👉 点击了解更多赛事信息 👈

img

更多 Flink 相关技术问题，可扫码加入社区钉钉交流群
第一时间获取最新技术文章和社区动态，请关注公众号～

image.png

活动推荐

阿里云基于 Apache Flink 构建的企业级产品-实时计算Flink版现开启活动：
99 元试用 实时计算Flink版（包年包月、10CU）即有机会获得 Flink 独家定制T恤；另包 3 个月及以上还有 85 折优惠！
了解活动详情：https://www.aliyun.com/product/bigdata/sc

image.png

文章标签：
实时计算 Flink版
云原生数据仓库AnalyticDB MySQL版
云数据库 RDS MySQL 版
前端开发
消息中间件
流计算
分布式计算
关系型数据库
索引
MySQL
Kafka
Spark
Apache
关键词：
Apache实践
Apache hudi
数据湖hudi
Apache数据湖
hudi数据湖
相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓，并通过Hologres对接BI分析工具（以DataV为例），实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题？实时计算 Flink 极客训练营产品、技术专家齐上阵，从开源 Flink功能介绍到实时计算 Flink 优势详解，现场实操，5天即可上手！ 欢迎开通实时计算 Flink 版： https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍： Flink Forward 是由 Apache 官方授权，Apache Flink Community China 支持的会议，通过参会不仅可以了解到 Flink 社区的最新动态和发展计划，还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验，是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与，一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况，Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
阿里云实时计算Flink
目录
相关文章
存储 数据管理 物联网
711 0
存储 SQL 分布式计算
403 0
SelectDB
|
SQL 分布式计算 Apache
Apache Doris + Apache Hudi 快速搭建指南｜Lakehouse 使用手册（一）
本文将在 Docker 环境下，为读者介绍如何快速搭建 Apache Doris + Apache Hudi 的测试及演示环境，并对各功能操作进行演示，帮助读者快速入门。
SelectDB
689 0
Apache Doris + Apache Hudi 快速搭建指南｜Lakehouse 使用手册（一）
花开富贵111
|
消息中间件 Java Kafka
实时计算 Flink版操作报错合集之从hudi读数据，报错NoSuchMethodError:org.apache.hudi.format.cow.vector.reader.PaequetColumnarRowSplit.getRecord()，该怎么办
在使用实时计算Flink版过程中，可能会遇到各种错误，了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题，查看Flink的日志是关键，它们通常会提供更详细的错误信息和堆栈跟踪，有助于定位问题。此外，Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
花开富贵111
305 0
xleesf
|
存储 SQL 分布式计算
Apache Hudi在Linkflow构建实时数据湖的生产实践
Apache Hudi在Linkflow构建实时数据湖的生产实践
xleesf
287 0
xleesf
|
存储 SQL 数据管理
字节跳动基于Apache Hudi构建实时数据湖平台实践
字节跳动基于Apache Hudi构建实时数据湖平台实践
xleesf
1194 0
实时数仓Hologres团队
|
存储 运维 监控
飞书深诺基于Flink+Hudi+Hologres的实时数据湖建设实践
通过对各个业务线实时需求的调研了解到，当前实时数据处理场景是各个业务线基于Java服务独自处理的。各个业务线实时能力不能复用且存在计算资源的扩展性问题，而且实时处理的时效已不能满足业务需求。鉴于当前大数据团队数据架构主要解决离线场景，无法承接更多实时业务，因此我们需要重新设计整合，从架构合理性，复用性以及开发运维成本出发，建设一套通用的大数据实时数仓链路。本次实时数仓建设将以游戏运营业务为典型场景进行方案设计，综合业务时效性、资源成本和数仓开发运维成本等考虑，我们最终决定基于Flink + Hudi + Hologres来构建阿里云云原生实时湖仓，并在此文中探讨实时数据架构的具体落地实践。
实时数仓Hologres团队
133861 94
飞书深诺基于Flink+Hudi+Hologres的实时数据湖建设实践
灵杰开发者
|
消息中间件 存储 分布式计算
SmartNews 基于 Flink 的 Iceberg 实时数据湖实践
SmartNews 数据平台架构师 Apache Iceberg Contributor 戢清雨，在 Flink Forward Asia 2022 实时湖仓专场的分享。
灵杰开发者
1955 0
SmartNews 基于 Flink 的 Iceberg 实时数据湖实践
袋鼠云
|
SQL 存储 分布式计算
一文了解袋鼠云在实时数据湖上的探索与实践
近日，DataFun实时湖仓专题特邀袋鼠云分享在实时数据湖上的探索与实践，点击文章了解什么是实时数据湖、如何进行数据湖选型及如何基于数据平台建设数据湖。
袋鼠云
297 0
灵杰开发者
|
SQL 存储 消息中间件
B 站构建实时数据湖的探索和实践
bilibili 大数据实时团队资深开发工程师周晖栋，在 Flink Forward Asia 2022 实时湖仓专场的分享。
灵杰开发者
8871 0
大数据与机器学习

实时计算 Flink

热门文章

最新文章

  • 1
    数据仓库介绍与实时数仓案例
  • 2
    独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • 3
    实时计算 Flink SQL 核心功能解密
  • 4
    流计算StreamCompute
  • 5
    通过Flink实时构建搜索引擎的索引
  • 6
    Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 7
    阿里云实时计算产品案例&解决方案汇总
  • 8
    流计算精品翻译: The Dataflow Model
  • 9
    接着！！Apache Flink 全领域干货合集（持续更新）
  • 10
    回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
  • 1
    Flink Forward Asia 2026 官宣深圳｜From Cloud Native to AI Native
    63
  • 2
    Flink Agents 0.3 Roadmap解读
    406
  • 3
    相约深圳，全球征集｜Flink Forward Asia 2026 演讲议题征集正式启动
    338
  • 4
    Flink CDC 3.6.0：支持 Flink 1.20/2.2, MySQL/PostgreSQL入湖入流支持Schema Evolution
    632
  • 5
    Apache Flink Agents 0.2.1 发布公告
    264
  • 6
    （二）走进阿里云实时计算Flink版-场景案例篇
    753
  • 7
    （一）走进阿里云实时计算Flink版-产品能力篇
    698
  • 8
    Flink 实时计算 x SLS 存储下推：阿里云 OpenAPI 网关监控平台实践
    741
  • 9
    基于Flink CDC的企业级日志实时入湖入流解决方案
    546
  • 10
    Apache Flink Agents 0.2.0 发布公告
    750

    • 相关课程

    更多
  • Apache RocketMQ：如何从互联网时代演进到云
  • Apache Flink 入门到实战 - Flink开源社区出品
  • Apache Flink 入门

    • 相关电子书

    更多
  • Apache Flink技术进阶
  • Apache Spark: Cloud and On-Prem
  • Hybrid Cloud and Apache Spark

    • 推荐镜像

    更多
  • apache
    • 下一篇
    银行卡归属地及开户行查询API查询实战指南