都在这儿了!5月 Flink 社区发版、更新汇总

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: 为 Flink 1.11 热身,然后回溯 Flink 社区的四月份——发布了 Statful Functions 2.0、一个新的自定进度的 Flink 培训以及一些旨在改善 Flink 文档体验的工作。

文章来源 | Apache 博客
翻译 | 王洪达(社区志愿者)

原文链接:
https://flink.apache.org/news/2020/05/07/community-update.html

你感受到了吗? 这是一个发布月!虽然花费了一段时间,但是现在我们赶上了进度[1],社区更新资讯将在本文汇总。这一次,我们要为 Flink 1.11 热身,然后回溯 Flink 社区的四月份——发布了 Statful Functions 2.0、一个新的自定进度的 Flink 培训以及一些旨在改善 Flink 文档体验的工作。

上个月也标志着 Flink Forward Virtual Conference 2020 的亮相,如果你完全错过了会议或者只是想回顾一下一些会议,视频和幻灯片[2]现在是开放可用的、供您回顾。

Flink 的过去一个月

Flink Stateful 2.0 已经发布

四月伊始,Flink 社区宣布 Stateful Functions 2.0[3] 的发布——这是 Apache Flink 项目的第一个版本。从这次发布开始,你可以将 Flink 当作一个(有状态)无服务器的基础平台,该平台具有开箱即用的一致性和可扩展状态,以及功能之间的高效消息传递。正如 Gordan(@tzulitai) 在他的 Flink Forward 演讲中所展示的,你甚至可以像 AWS Lambda 等平台上运行有状态功能。

640.png

令人振奋的是,在邮件列表[4]和 Stack Overflow 中出现了很多有关 Stateful Functions 的问题!如果你想参与其中,我们一直在找新的贡献者[5]——特别是针对其他语言(如 Go,Javascript 和 Rust)的 SDKs 的贡献者。

Flink 1.11 热身

Flink 1.11 发行的最终准备工作正在进行中,计划于5月15日冻结该功能,还有许多新功能和改进值得关注:

  • 可用性方面,您可以期望通过使用 Table API/SQL(FLIP-105)支持更改数据捕获(CDC),简易地将数据流传输到 Apache Hive(FLIP-115)或在PyFlink 中支持 Pandas DataFrame(FLIP-120)等功能来极大的简化数据摄取。随着 PyFlink 的不断完善,在 Python UDF 中引入了用户定义的度量标准(FLIP-112),并且对 Python UDF 支持的扩展超出了 Python Table API(FLIP-106,FLIP-114),PyFlink 也付出了巨大的努力。
  • 运营方面,备受期待的新 Source API(FLIP-27)将统一批处理和流式源,并改善现成的事件时间行为,而未对齐的检查点(FLIP-76)和网络内存管理的更改将允许在背压下加快检查点的速度——这是重新考虑容错能力做出更大努力的一部分,它将为 Flink 带来许多其他重要的变化。您可以在最近的 Flink Forward 演讲中了解有关它的更多信息!

对有关类型系统、WebUI、指标报告、支持的格式等等的混合改进,我们等不及了!要获得正在进行的开发的概述,请查看此线程[6]。我们鼓励社区在发布 RC(候选版本)后参与测试。您可以随时关注 @dev 邮件列表[7]以获取更新。

Flink 小版概况

Flink 1.9.3

社区发布了 Flink 1.9.3,涵盖了 Flink 1.9 中的一些 bug 修复!您可以在公告博客[8]中找到更多信息。

Flink 1.10.1

Flink 1.10.1 版本已经发布!详情:

https://flink.apache.org/news/2020/05/12/release-1.10.1.html

新提交者和 PMC 成员

自上次更新以来,Apache Flink 社区已迎来3位 PMC 成员和2个新的提交者。恭喜他们!

  • PMC 新成员:

Dawid Wysakowicz、程鹤群、王治江

  • Committers 新成员:

Konstantin Knauf、Seth Wiesman

整体情况

新的自定进度的 Apache Flink 培训

640 2.png

本周,Flink 网站收到了由 David(@alpinegizmo)策划的自定进度的培训课程的宝贵贡献——或者,在 training.ververica.com 查看以前的全部培训材料。新材料将指导您完成 Flink 和 DataStream API 的基础知识,并通过动手练习来完善每个概念部分,以帮助您更好地吸收所学知识。

无论您是 Flink 的新手,还是只是想加强基础,此培训都是最全面的入门方法,并且现在完全开源:https://flink.apache.org/training.html。目前,这些材料仅以英语提供,但社区打算将来也提供中文翻译。

Google Season of Docs 2020

Google 文档季节(GSOD)是 Google 开源组织的一项伟大计划,旨在将技术作家与导师结成对,以共同开发开源项目的文档。去年,Flink 社区提交了一个应用程序,很遗憾,该应用程序没有成功,但我们正在再次尝试!这次,有了一个改进 Table API 和 SQL 文档的项目构想:

■ 1)重组 Table API 和 SQL 文档

重做当前文档结构将允许:

  • 降低非编程(即 SQL)用户进入 Flink 的门槛
  • 使可用功能更易于发现
  • 改善主题的流程和逻辑关联

FLIP-60 包含有关如何重新组织现有文档的详细建议,可以用作起点。

■ 2)扩展 Table API 和 SQL 文档

文档的某些区域细节不足或无法为新的Flink用户访问。需要注意的主题和部分的示例包括:规划器、内置功能、连接器、概述和概念部分。有许多工作要做,技术作者可以选择要重点关注的领域,然后可以将这些改进添加到文档返工伞问题(FLINK-12639)中。

如果您有兴趣了解有关此项目构想的更多信息或想以技术作家的身份参与 GSOD,请查看公告博客[11]。

还有一些要读的东西

全球各地的活动几乎已停止,因此我们将为您提供一些有趣的资源,供您阅读和探索。除了这些书面内容,您还可以从 Flink Forward 在线会议中回顾会议内容。

类型 连接
博客 - 事件驱动的供应链,通过 FlinkSQL 和 Zeppelin 应对危机- Apache Flink 1.10 对内存管理的改进- Flink 序列化调整卷1:选择序列化器-如果可以的话
讲解 - PyFlink:在 Flink 的 Table API 中引入对 UDF 的- Python支持Flink 有状态功能:从哪里开始?
Flink包 Flink Packages 是一个网站,您可以在其中浏览(并做出贡献)Flink 连接器,扩展,API,工具和集成的生态系统。新功能:- Flink 的溢出状态后端- Flink 内存计算器- Ververica 平台社区版

网站链接:https://flink-packages.org/

Tips:点击「阅读原文」可查看相关扩展链接~

如果您想密切关注社区中发生的事情,请订阅 Flink @community 邮件列表以获取详细的每周更新,即将举行的活动公告等。

四月 Flink 中文邮件列表活跃榜单

1.李本超:libenchao@gmail.com(72)
2.Jark:imjark@gmail.com(34)
3.李劲松:jingsonglee0@gmail.com(27)
4.guanyq:dlguanyq@163.com(22)
5.xinghalo:xinghalo@163.com(21)
6.lec ssmi:shicheng31604@gmail.com(20)
7.Leonard Xu:xbjtdcq@gmail.com(19)
8.王双利:allon2@163.com(17)
9.tison:wander4096@gmail.com(17)
10.忝忝向仧:153488125@qq.com(16)

以上为 Flink 社区中文邮件列表活跃榜单 Top 10,掌声献给李本超,恭喜他成为本月社区贡献之星!也感谢大家对社区的热情,如果您对社区参与感兴趣,欢迎订阅中文邮件列表参与答疑或在社区提 issue、PR 等~

Apache Flink 中文邮件列表订阅流程:

  1. 发送任意邮件到 user-zh-subscribe@flink.apache.org
  2. 收到官方确认邮件
  3. 回复该邮件 confirm 即可订阅

订阅成功后将收到 Flink 官方的中文邮件列表的消息,您可以向 user-zh@flink.apache.org 发邮件提问也可以帮助别人解答问题。

参考资料:

[1]https://flink.apache.org/news/2020/04/01/community-update.html
[2]https://www.youtube.com/playlist?list=PLDX4T_cnKjD0ngnBSU-bYGfgVv17MiwA7
[3]https://flink.apache.org/news/2020/04/07/release-statefun-2.0.0.html
[4]https://lists.apache.org/list.html?user@flink.apache.org:lte=3M:statefun
[5]https://github.com/apache/flink-statefun#contributing
[6]http://apache-flink-mailing-list-archive.1008284.n3.nabble.com/ANNOUNCE-Development-progress-of-Apache-Flink-1-11-td40718.html
[7]https://flink.apache.org/community.html#mailing-lists
[8]https://flink.apache.org/news/2020/05/07/(https://flink.apache.org/news/2020/04/24/release-1.9.3.html)
[9]http://apache-flink-mailing-list-archive.1008284.n3.nabble.com/VOTE-Release-1-10-1-release-candidate-2-td41019.html
[10]https://flink.apache.org/news/2019/04/17/sod.html
[11]https://flink.apache.org/news/2020/05/04/season-of-docs.html

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
SQL Rust 供应链
都在这儿了!5月 Flink 社区发版、更新汇总
为 Flink 1.11 热身,然后回溯 Flink 社区的四月份——发布了 Statful Functions 2.0、一个新的自定进度的 Flink 培训以及一些旨在改善 Flink 文档体验的工作。
都在这儿了!5月 Flink 社区发版、更新汇总
|
11天前
|
消息中间件 Java 关系型数据库
实时计算 Flink版操作报错合集之从 PostgreSQL 读取数据并写入 Kafka 时,遇到 "initial slot snapshot too large" 的错误,该怎么办
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
629 0
|
11天前
|
存储 SQL 关系型数据库
实时计算 Flink版操作报错合集之按时间恢复时,报错:在尝试读取binlog时发现所需的binlog位置不再可用,该怎么办
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
535 0
|
11天前
|
消息中间件 资源调度 Java
实时计算 Flink版操作报错合集之遇到了缺少包的错误,已经添加了相应的 jar 包,仍然出现同样的报错,该怎么解决
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
563 2
|
11天前
|
SQL JSON 数据库
实时计算 Flink版操作报错合集之写入Hudi时,遇到从 COW(Copy-On-Write)表类型转换为 MOR(Merge-On-Read)表类型时报字段错误,该怎么办
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
|
11天前
|
监控 Oracle 关系型数据库
实时计算 Flink版操作报错合集之在配置连接时,添加了scan.startup.mode参数后,出现报错。是什么导致的
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
671 0
|
11天前
|
消息中间件 Oracle 关系型数据库
实时计算 Flink版操作报错合集之连接RabbitMQ时遇到Could not find any factory for identifier 'rabbitmq' that implements 'org.apache.flink.table.factories.DynamicTableFactory'错误,该怎么办
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
308 0
|
11天前
|
SQL 关系型数据库 MySQL
实时计算 Flink版操作报错合集之CDC任务在异常后整个record sent从0初始化开始,是什么导致的
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
417 0
|
11天前
|
Java 关系型数据库 流计算
实时计算 Flink版操作报错合集之配置cats进行从MySQL到StarRocks的数据同步任务时遇到报错,该怎么办
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
298 0
|
11天前
|
关系型数据库 数据库 流计算
实时计算 Flink版操作报错合集之在使用Flink CDC TiDB Connector时,无法获取到事件,该怎么办
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
345 0

热门文章

最新文章

相关产品

  • 实时计算 Flink版