25 亿条/秒消息处理!Flink 又双叒叕被 Apache 官方提名

简介: 3 月 26 日,Apache 官方博客宣布其成立 21 周年,博客中对 Apache 之道、Apache 大型项目的应用以及 Apache 基金会里程碑事件进行了盘点。其中 Apache Flink 在 2019 年阿里巴巴双 11 场景中突破实时计算消息处理峰值达到 25 亿条/秒的记录被 Apache 官方博客收录。

摘要:Apache Flink 作为公认的新一代开源大数据计算引擎,可以支持流处理、批处理和机器学习等多种计算形态,也是 Apache 软件基金会和 GitHub 社区最为活跃的项目之一。

3 月 26 日,Apache 官方博客宣布其成立 21 周年,博客中对 Apache 之道、Apache 大型项目的应用以及 Apache 基金会里程碑事件进行了盘点。其中 Apache Flink 在 2019 年阿里巴巴双 11 场景中突破实时计算消息处理峰值达到 25 亿条/秒的记录被 Apache 官方博客收录。

随着 Flink 1.10 版本的发布,Blink 合并的正式完成,Flink 作业的整体性能及稳定性有了显著优化,越来越多的企业开始采用 Flink 用于生产环境。相信 Flink 的整体性能将随着社区发展、生态的完善不断取得新突破。

▼ 以下为博客原文翻译 ▼

2020 年 3 月 26 日,Apache 基金会(ASF)的全部志愿者、管理者以及孵化的 350 多个开源项目宣布其成立 21 周年。

为了履行为公众提供软件的使命,ASF 的志愿者社区从最初的 21 个负责 Apache HTTP 服务器研发的成员发展到 765 个成员、206 个 Apache 项目管理委员会和 7600 多位负责 300 个项目的提交者管理着 2 亿多行 Apache 代码(价值超过 200 亿美元)。

Apache 的突破性技术涉及现代计算的各个方面,为互联网提供大量支持,管理 EB 级数据,执行数兆次运算,并且几乎在每个行业中存储数万亿个对象。Apache 项目都是 100% 免费提供的,并且没有许可费用。

“在过去的二十年中,Apache 软件基金会一直是值得信赖的、以供应商为中心,社区主导的协作之家,” Apache 软件基金会执行副总裁 David Nalley 如是说。“如今,ASF 成为开源的先锋,孵化大大小小的项目,拥有世界一流的创新模式。”

Apache 之道

作为社区主导的组织,ASF 严格保持中立。它的独立性确保任何组织包括 ASF 发起人和为 Apache 项目贡献的组织都不能控制项目的方向或拥有任何特殊特权。

ASF 以社区为中心的开发过程称为“Apache 之道”,它指导现有项目及其社区,并继续激励来自世界各地的新一代创新。Apache 之道体现在:

  • 获得的权力:所有个人都有机会参与社区,比如对社区的贡献。
  • 同类社区:个人参加 ASF 获得的荣誉是永久的,并且不受就业情况或雇主的约束。
  • 开放式交流:与代码和决策制定有关的所有交流都可以公开访问,以确保 ASF 在全球分布的社区内可以异步协作。
  • 共识决策:Apache 项目由一支积极参与各自项目的自选志愿者组成的团队进行监督。
  • 负责任的监督:ASF 治理模式基于信任和委托监督。

Apache 之道一直是协作计算的先驱,并直接影响了将源代码和开放开发原则应用于组织内部的方法。Apache 之道已被无数组织采用,包括 Capital One、Comcast、爱立信、HP、IBM、Google、Microsoft、PayPal、SAP、T-Mobile 和许多其他组织。

ASF 对社区的关注与 Apache 精神息息相关, “社区高于代码”是坚定不移的宗旨。充满活力、多样化的社区可以使代码保持活力,但是,无论代码多好,如果没有社区的支持,代码就无法蓬勃生长。Apache 社区的成员在即将发行的 ASF 纪录片中分享了他们对“Why Apache”的看法。

ASF 纪录片:
https://s.apache.org/Trillions-teaser

Apache 大型项目应用

数十个企业级 Apache 项目定义了行业,并广泛应用于人工智能、深度学习、大数据、构建管理、云计算、内容管理、DevOps、IoT 和边缘计算、移动、服务器和 Web 框架等领域。没有其他软件基金会可以为如此广泛的项目提供服务。“由 Apache 提供支持”的应用程序示例包括:

  • 中国第二大快递公司 SF Express,在 COVID-19 冠状病毒期间使用 Apache SkyWalking 在全球范围内进行运输;
  • Apache Guacamole 的无客户端远程桌面网关可帮助全球成千上万的个人、企业和大学在家中安全地工作,而无需绑定到特定的设备、VPN 或客户端;
  • 阿里巴巴使用 Apache Flink 用于实时大屏和实时推荐,每秒消息处理超过 25 亿条
  • 欧洲航天局的木星航天器任务控制系统由 Apache Karaf、Apache Maven 和 Apache Groovy 提供支持;
  • 英国政府通信总部(GCHQ)的应用程序 Gaffer 使用 Apache Accumulo、Apache HBase 和 Apache Parquet 存储和管理 PB 级数据。
  • Netflix 使用 Apache Druid 管理其 1.5 万亿行数据仓库,以管理用户跨平台点击 Netflix 图标或从浏览器登录时看到的内容。
  • Uber 使用 Apache Hudi(孵化中)管理超过 100PB 数据的近实时数据湖,支持了从数仓到机器学习的所有功能;
  • 波士顿儿童医院使用 Apache cTAKES 将电子健康记录中的表型和基因组数据链接起来,以实现精确的健康发现;
  • 亚马逊、DataStax、IBM、微软、Neo4j、NBC Universal 和许多其他公司使用 Apache Tinkerpop 图形数据库中并编写复杂的遍历。
  • 全球生物多样性信息基金使用 Apache Beam、Hadoop、HBase、Lucene、Spark 等工具整合了近 1600 个机构、一百多万个生物多样性数据和近 1.4 亿个位置记录,供研究免费使用;
  • 欧盟委员会使用 Apache Camel 开发了新的 API 网关基础架构;
  • 中国电信公司翼支付使用 Apache ShardingSphere(孵化中)为分布在 30 多个应用程序中的移动支付扩展到 100 亿个数据集;
  • 苹果的 Siri 使用 Apache HBase 在 10 秒内完成全环复制;
  • 美国海军使用 Apache Rya 为智能无人机、自主小型机器人群、载人无人团队高级战术通信等提供动力;
  • 全世界数以亿计的网站都是由 Apache HTTP 服务器提供支持。

其他里程碑

除了 ASF 的 21 周年纪念,Apache 社区还庆祝以下项目的里程碑纪念日:

  • 25 周年 - Apache HTTP Server
  • 21 周年 - Apache OpenOffice (at the ASF since 2011)
  • 20 周年 - Apache mod_perl, Tcl, APR/Portable Runtime, Subversion (at the ASF since 2009)
  • 18 周年 - Apache DB, Incubator, Ant
  • 17 周年 - Apache Cocoon, James, Web Services, Maven, Logging Services
  • 16 周年 - Apache Gump, Portals, Struts, Geronimo, SpamAssassin, Xalan, XML Graphics
  • 15 周年 - Apache Lucene, Directory, MyFaces, Xerces, Tomcat

Apache 博客原文:
https://blogs.apache.org/foundation/entry/the-apache-software-foundation-celebrates2?from=singlemessage&isappinstalled=0

相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
4月前
|
人工智能 数据处理 API
阿里云、Ververica、Confluent 与 LinkedIn 携手推进流式创新,共筑基于 Apache Flink Agents 的智能体 AI 未来
Apache Flink Agents 是由阿里云、Ververica、Confluent 与 LinkedIn 联合推出的开源子项目,旨在基于 Flink 构建可扩展、事件驱动的生产级 AI 智能体框架,实现数据与智能的实时融合。
779 6
阿里云、Ververica、Confluent 与 LinkedIn 携手推进流式创新,共筑基于 Apache Flink Agents 的智能体 AI 未来
|
存储 Cloud Native 数据处理
从嵌入式状态管理到云原生架构:Apache Flink 的演进与下一代增量计算范式
本文整理自阿里云资深技术专家、Apache Flink PMC 成员梅源在 Flink Forward Asia 新加坡 2025上的分享,深入解析 Flink 状态管理系统的发展历程,从核心设计到 Flink 2.0 存算分离架构,并展望未来基于流批一体的通用增量计算方向。
452 0
从嵌入式状态管理到云原生架构:Apache Flink 的演进与下一代增量计算范式
|
6月前
|
SQL 人工智能 数据挖掘
Apache Flink:从实时数据分析到实时AI
Apache Flink 是实时数据处理领域的核心技术,历经十年发展,已从学术项目成长为实时计算的事实标准。它在现代数据架构中发挥着关键作用,支持实时数据分析、湖仓集成及实时 AI 应用。随着 Flink 2.0 的发布,其在流式湖仓、AI 驱动决策等方面展现出强大潜力,正推动企业迈向智能化、实时化的新阶段。
783 9
Apache Flink:从实时数据分析到实时AI
|
6月前
|
SQL 人工智能 API
Apache Flink 2.1.0: 面向实时 Data + AI 全面升级,开启智能流处理新纪元
Apache Flink 2.1.0 正式发布,标志着实时数据处理引擎向统一 Data + AI 平台迈进。新版本强化了实时 AI 能力,支持通过 Flink SQL 和 Table API 创建及调用 AI 模型,新增 Model DDL、ML_PREDICT 表值函数等功能,实现端到端的实时 AI 工作流。同时增强了 Flink SQL 的流处理能力,引入 Process Table Functions(PTFs)、Variant 数据类型,优化流式 Join 及状态管理,显著提升作业稳定性与资源利用率。
705 0
|
5月前
|
人工智能 运维 Java
Flink Agents:基于Apache Flink的事件驱动AI智能体框架
本文基于Apache Flink PMC成员宋辛童在Community Over Code Asia 2025的演讲,深入解析Flink Agents项目的技术背景、架构设计与应用场景。该项目聚焦事件驱动型AI智能体,结合Flink的实时处理能力,推动AI在工业场景中的工程化落地,涵盖智能运维、直播分析等典型应用,展现其在AI发展第四层次——智能体AI中的重要意义。
1904 27
Flink Agents:基于Apache Flink的事件驱动AI智能体框架
|
6月前
|
存储 人工智能 数据处理
对话王峰:Apache Flink 在 AI 时代的“剑锋”所向
Flink 2.0 架构升级实现存算分离,迈向彻底云原生化,支持更大规模状态管理、提升资源效率、增强容灾能力。通过流批一体与 AI 场景融合,推动实时计算向智能化演进。生态项目如 Paimon、Fluss 和 Flink CDC 构建湖流一体架构,实现分钟级时效性与低成本平衡。未来,Flink 将深化 AI Agents 框架,引领事件驱动的智能数据处理新方向。
695 6
|
6月前
|
消息中间件 存储 Kafka
Apache Flink错误处理实战手册:2年生产环境调试经验总结
本文由 Ververica 客户成功经理 Naci Simsek 撰写,基于其在多个行业 Flink 项目中的实战经验,总结了 Apache Flink 生产环境中常见的三大典型问题及其解决方案。内容涵盖 Kafka 连接器迁移导致的状态管理问题、任务槽负载不均问题以及 Kryo 序列化引发的性能陷阱,旨在帮助企业开发者避免常见误区,提升实时流处理系统的稳定性与性能。
583 0
Apache Flink错误处理实战手册:2年生产环境调试经验总结
|
存储 人工智能 大数据
The Past, Present and Future of Apache Flink
本文整理自阿里云开源大数据负责人王峰(莫问)在 Flink Forward Asia 2024 上海站主论坛开场的分享,今年正值 Flink 开源项目诞生的第 10 周年,借此时机,王峰回顾了 Flink 在过去 10 年的发展历程以及 Flink社区当前最新的技术成果,最后展望下一个十年 Flink 路向何方。
889 33
The Past, Present and Future of Apache Flink
|
SQL Java API
Apache Flink 2.0-preview released
Apache Flink 社区正积极筹备 Flink 2.0 的发布,这是自 Flink 1.0 发布以来的首个重大更新。Flink 2.0 将引入多项激动人心的功能和改进,包括存算分离状态管理、物化表、批作业自适应执行等,同时也包含了一些不兼容的变更。目前提供的预览版旨在让用户提前尝试新功能并收集反馈,但不建议在生产环境中使用。
1672 13
Apache Flink 2.0-preview released

相关产品

  • 实时计算 Flink版
  • 推荐镜像

    更多