年度回顾 | 2019 年的 Apache Flink(文末有福利)

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: 2019 年即将落下帷幕,这一年对于 Apache Flink 来说是非常精彩的一年,里程碑式的一年。随着这一年在邮件列表发送了超过 1 万封邮件,JIRA 中超过 4 千个 tickets,以及 GitHub 上超过 3 千个 PR,Apache Flink 迎来了快速的发展。

2019 年即将落下帷幕,这一年对于 Apache Flink 来说是非常精彩的一年,里程碑式的一年。随着这一年在邮件列表发送了超过 1 万封邮件,JIRA 中超过 4 千个 tickets,以及 GitHub 上超过 3 千个 PR,Apache Flink 迎来了快速的发展。笔者作为一名全职在 Flink 社区工作的成员,表示想要跟上社区的最新状态着实不太容易。

本文笔者将带大家一起回顾下 Flink 所经过的 2019 年,感受 Flink 蓬勃发展的同时,我们也将展望 2020 年。

Tips:文末有福利,不要错过哦~

大事记

笔者整理了 2019 年对于 Flink 社区而言发生的一些大事件(如有遗漏,敬请谅解)。

1.png

2019 年初,一篇阿里巴巴正式向 Apache Flink 贡献 Blink 源码的新闻点燃了社区,这也是 Apache Flink 在这一年能有如此快速发展的关键,此事件也直接加速了许多用户期待已久的功能快速落地,如 Hive 集成、更好的 Python 支持,高性能的批处理等等。

这一年,Apache Flink 保持着以往的快节奏,发布了两个大版本:Flink 1.8 和 Flink 1.9,以及即将发布的 Flink 1.10。Flink 1.10 已经进入了测试阶段,并有望于春节前与大家见面。Flink 1.9 和 Flink 1.10 是社区迄今为止所经历过的最大版本(见下图),从解决的 issue 数和提交的 commit 数上看,1.9 与 1.10 都已经达到了以前版本的两倍之多,而且也可以预见未来 Flink 还将保持着如此高速发展的态势。同时单版本的贡献者数量也在稳步增长中,说明越来越多的开发者加入到了社区中。值得一提的是,阿里巴巴通过 1.9 和 1.10 两个版本,历经 1 年左右将 Blink 中比较通用的部分都悉数回馈给了 Apache Flink 社区,回馈总代码量一百多万行。从邮件讨论与代码提交上看,国内贡献者正扮演者越来越重要的作用。

2.jpg

除此之外,Flink GitHub 仓库的 Star 数也早在 8 月份就突破了 1 万的里程碑。并且仅 2019 年一年的时间,Star 数就实现了翻番。

user@ 和 dev@ 邮件列表的活动表明了社区非常活跃,并且 user-zh@ 虽然年初才投入使用但也正在变得越来越活跃。从 2018 年同期的数字来看,dev@ 邮件列表的活动量激增最快,邮件和独立用户的数量平均增长了 2.5 倍,这很好地反映了上文提到的 Flink 代码库的极度活跃。

3.png

Apache 软件基金会在 2019 财年报告中,也能印证 Flink 的活跃,报告中提到 Flink:

  • 最活跃的邮件列表(user@ + dev@):第一
  • GitHub 访问流量:第三
  • 提交 commits 数:第五

与往年一样,今年 Flink 社区在北美(旧金山)、欧洲(柏林)、亚洲(北京)三地分别举办了 Flink Forward 大会,其中北京场到会人次突破 2000,同比增加了100%。

在 11 月份,社区发布了 Flink 生态网站(flink-packages.org),旨在推动围绕 Apache Flink 的生态建设,用于收集三方包并方便用户查找,包括连接器、类库、扩展等等。希望 flink-packages.org 能成为社区用于探索 Flink 插件的地方,并让专注于插件贡献者们获得用户的认可,从而可持续地打造更好的 Flink 生态。

社区发展

随着 Flink 社区贡献量的猛增,社区在 2019 年也有条不紊地邀请了 6 位 PMC member 以及 8 位 Committer。

  • 新增 Committers:Bowen Li,Andrey Zagrebin,Zili Chen,Hequn Cheng, Jiangjie (Becket) Qin, Rong Rong, Zhijiang Wang, Zhu Zhu。
  • 新增 PMC member: Jincheng Sun, Kete (Kurt) Young, Kostas Kloudas, Thomas Weise, Jiangjie (Becket) Qin, Jark Wu。

今年 Flink 社区的一个亮点就是拥抱了中文社区。年初的时候,就建立了中文邮件列表,从上文的邮件列表活跃图上也能看出国内用户对于中文邮件列表的接受度还是很高的。在 5 月份的时候,Flink 中文学习网站(ververica.cn)上线了,与此同时,中文社区微信公众号(Ververica)也同步上线。截止目前,微信公众号订阅量已突破一万。

从另外的维度也能看出中文社区的热情,在 Flink 官网(flink.apache.org)流量统计中,来自中国的流量占了全部流量的 24% ,位列所有国家之首。下图是 Flink 官网的流量分布图,图中不仅反映了 2019 年的整体流量要远高于往年,更有意思的是图中标出的两个流量波谷,其中第一个波谷正好是圣诞节,第二个更大的波谷恰好是中国的春节。从中也能看出中文社区影响力之大。

4.png

中文社区之所以能在国际开源项目中扮演越来越重要的作用,离不开这一年 Flink 中文社区的努力。据统计,Flink 中文社区在 2019 年共举办了 10 场 Meetup,横跨了北上深杭等多个城市,其中最大的北京场超过了 500 人参加。并且出品了 36 场 Flink 中文直播课程,覆盖了从基础到进阶到运维的各个方面,累积播放量达16万多。在此感谢每一位讲师以及工作人员为中文社区做出的贡献!

5.jpg

展望 2020 年

Flink 1.10 版本即将在 2020 年初与大家见面,1.10 版本可以看作一个比较重要的里程碑式版本,至此,Blink 功能都已经进入 Flink,包括 Blink 中比较关键的设计和通用的优化。该版本包含以下主要功能:

  1. SQL DDL 增强,支持在建表语句中定义计算列和 watermark。
  2. 生产级别的 Batch 支持与 Hive 兼容,其中 TPC-DS 10T 的性能是 Hive 3.0 的 7 倍。
  3. 更加强大的 Python 支持,支持 Python UDF。
  4. 支持原生 K8S 集成。
  5. 新增多个主流机器学习算法库,包括逻辑回归,随机森林,KMeans 等。

随着 Blink 的核心功能都已逐步贡献到 Flink,相信我们对 Flink 的未来有了更多的期盼,期盼 Flink 在 2020 年能带给我们更多的惊喜,当然这离不开社区中每一位同学的努力,也希望能有更多的人加入到社区中!

如果您想密切关注社区中发生的事情,请关注微信公众号(Ververica)以获取详细的每周更新、即将举办的活动、最新的技术文章与直播课程等。

作者介绍:

伍翀(云邪),Apache Flink PMC,阿里巴巴技术专家,北京理工大学硕士毕业,2015 年加入阿里巴巴,参与阿里巴巴实时计算引擎 JStorm 的开发与设计。2016 年开始从事阿里新一代实时计算引擎 Blink SQL 的开发与优化,并活跃于 Flink 社区,Flink/Blink SQL 模块的核心开发之一。目前主要专注于分布式处理和实时计算,热爱开源,热爱分享。

# 福利 #

最新 Apache Flink 基础入门学习资料第三季专刊新鲜出炉啦!年终尾牙,我们准备了 100 本专刊来感谢大家 2019 年对 Flink 社区的爱与支持!无论你是用来学习还是珍藏,这可能是今年唯一一次获得专刊的机会了。

我们的目标就是送送送!加小松鼠微信(Ververica2019)即可参与互动领取手感超好的纸质版专刊,数量有限,先到先得~

▼ 专刊展示 ▼

专刊1.jpg
专刊2.jpg

如果你也喜欢 Apache Flink,可以点亮 Star 告诉我们哦。点击下方链接即可给 Flink 送星星,动动手指,Flink 爱你!

https://github.com/apache/flink

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
9天前
|
SQL Java API
Apache Flink 2.0-preview released
Apache Flink 社区正积极筹备 Flink 2.0 的发布,这是自 Flink 1.0 发布以来的首个重大更新。Flink 2.0 将引入多项激动人心的功能和改进,包括存算分离状态管理、物化表、批作业自适应执行等,同时也包含了一些不兼容的变更。目前提供的预览版旨在让用户提前尝试新功能并收集反馈,但不建议在生产环境中使用。
357 13
Apache Flink 2.0-preview released
|
14天前
|
存储 缓存 算法
分布式锁服务深度解析:以Apache Flink的Checkpointing机制为例
【10月更文挑战第7天】在分布式系统中,多个进程或节点可能需要同时访问和操作共享资源。为了确保数据的一致性和系统的稳定性,我们需要一种机制来协调这些进程或节点的访问,避免并发冲突和竞态条件。分布式锁服务正是为此而生的一种解决方案。它通过在网络环境中实现锁机制,确保同一时间只有一个进程或节点能够访问和操作共享资源。
38 3
|
2月前
|
SQL 消息中间件 关系型数据库
Apache Doris Flink Connector 24.0.0 版本正式发布
该版本新增了对 Flink 1.20 的支持,并支持通过 Arrow Flight SQL 高速读取 Doris 中数据。
|
3月前
|
消息中间件 监控 数据挖掘
基于RabbitMQ与Apache Flink构建实时分析系统
【8月更文第28天】本文将介绍如何利用RabbitMQ作为数据源,结合Apache Flink进行实时数据分析。我们将构建一个简单的实时分析系统,该系统能够接收来自不同来源的数据,对数据进行实时处理,并将结果输出到另一个队列或存储系统中。
174 2
|
2月前
|
消息中间件 资源调度 API
Apache Flink 流批融合技术介绍
本文源自阿里云高级研发工程师周云峰在Apache Asia Community OverCode 2024的分享,内容涵盖从“流批一体”到“流批融合”的演进、技术解决方案及社区进展。流批一体已在API、算子和引擎层面实现统一,但用户仍需手动配置作业模式。流批融合旨在通过动态调整优化策略,自动适应不同场景需求。文章详细介绍了如何通过量化指标(如isProcessingBacklog和isInsertOnly)实现这一目标,并展示了针对不同场景的具体优化措施。此外,还概述了社区当前进展及未来规划,包括将优化方案推向Flink社区、动态调整算子流程结构等。
356 31
Apache Flink 流批融合技术介绍
|
19天前
|
分布式计算 监控 大数据
大数据-148 Apache Kudu 从 Flink 下沉数据到 Kudu
大数据-148 Apache Kudu 从 Flink 下沉数据到 Kudu
41 1
|
18天前
|
数据挖掘 物联网 数据处理
深入探讨Apache Flink:实时数据流处理的强大框架
在数据驱动时代,企业需高效处理实时数据流。Apache Flink作为开源流处理框架,以其高性能和灵活性成为首选平台。本文详细介绍Flink的核心特性和应用场景,包括实时流处理、强大的状态管理、灵活的窗口机制及批处理兼容性。无论在实时数据分析、金融服务、物联网还是广告技术领域,Flink均展现出巨大潜力,是企业实时数据处理的理想选择。随着大数据需求增长,Flink将继续在数据处理领域发挥重要作用。
50 0
|
22天前
|
消息中间件 druid Kafka
从Apache Flink到Kafka再到Druid的实时数据传输,用于分析/决策
从Apache Flink到Kafka再到Druid的实时数据传输,用于分析/决策
46 0
|
3月前
|
Java 微服务 Spring
驾驭复杂性:Spring Cloud在微服务构建中的决胜法则
【8月更文挑战第31天】Spring Cloud是在Spring Framework基础上打造的微服务解决方案,提供服务发现、配置管理、消息路由等功能,适用于构建复杂的微服务架构。本文介绍如何利用Spring Cloud搭建微服务,包括Eureka服务发现、Config Server配置管理和Zuul API网关等组件的配置与使用。通过Spring Cloud,可实现快速开发、自动化配置,并提升系统的伸缩性和容错性,尽管仍需面对分布式事务等挑战,但其强大的社区支持有助于解决问题。
65 0
|
3月前
|
消息中间件 Java 数据处理
揭秘Apache Flink的Exactly-Once神技:如何在数据流海中确保每条信息精准无误,不丢不重?
【8月更文挑战第26天】Apache Flink 是一款先进的流处理框架,其核心特性 Exactly-Once 语义保证了数据处理的精准无误。尤其在金融及电商等高要求场景下,该特性极为关键。本文深入解析 Flink 如何实现 Exactly-Once 语义:通过状态管理确保中间结果可靠存储;利用一致的检查点机制定期保存状态快照;以及通过精确的状态恢复避免数据重复处理或丢失。最后,提供一个 Java 示例,展示如何计算用户访问次数,并确保 Exactly-Once 语义的应用。
67 0

相关产品

  • 实时计算 Flink版
  • 推荐镜像

    更多