Flink Weekly | 每周社区动态更新 - 2019/12/31

简介: 主要内容包括:讨论在 Flink SQL 中支持 JSON functions,新增 Flink 国内社区的活动和相关博客,以及汇总中文邮件中大家遇到的问题。

大家好,本文为 Flink Weekly 的第二期,由 zhisheng 整理,主要内容包括:讨论在 Flink SQL 中支持 JSON functions,新增 Flink 国内社区的活动和相关博客,以及汇总中文邮件中大家遇到的问题。

Flink 开发

  • [SQL] Forward Xu 发起了一个讨论,要在 Flink SQL 中支持 JSON functions,最后将讨论的结果和想法记录在了 FLIP-90 。

http://apache-flink-mailing-list-archive.1008284.n3.nabble.com/DISCUSS-Support-JSON-functions-in-Flink-SQL-td32674.html

  • [SQL] Jark Wu 发起一个讨论,建议在 1.10 release 之前将 Table API 和 SQL 中的 Time-windowed Join 改为 Interval Join。

http://apache-flink-mailing-list-archive.1008284.n3.nabble.com/DISCUSS-Correct-the-terminology-of-quot-Time-windowed-Join-quot-to-quot-Interval-Join-quot-in-Table-L-td36202.html

  • [core]Stephan Ewen 之前发起的一个讨论,关于新的 Task Manager 内存配置 FLIP-49。

http://apache-flink-mailing-list-archive.1008284.n3.nabble.com/DISCUSS-Some-feedback-after-trying-out-the-new-FLIP-49-memory-configurations-td36129.html

已知缺陷

  • [FLINK-15421] [1.9.1, 1.10.0] GroupAggsHandler throws java.time.LocalDateTime cannot be cast to java.sql.Timestamp。

https://issues.apache.org/jira/browse/FLINK-15421

  • [FLINK-15420] [1.10.0] Cast string to timestamp will loose precision。

https://issues.apache.org/jira/browse/FLINK-15420

  • [FLINK-15418] [1.9.1, 1.10.0] StreamExecMatchRule not set FlinkRelDistribution。

https://issues.apache.org/jira/browse/FLINK-15418

  • [FLINK-15411][1.10.0] Planner can't prune partition on DATE/TIMESTAMP columns。

https://issues.apache.org/jira/browse/FLINK-15411

  • [FLINK-15406] [1.9.1] The savepoint is writted by "State Processor API" can't be restore by map or flatmap。

https://issues.apache.org/jira/browse/FLINK-15406

  • [FLINK-15381] [1.10.0] INSERT INTO VALUES statement fails if a cast project is applied。

https://issues.apache.org/jira/browse/FLINK-15381

  • [FLINK-15370] [1.10.0, 1.11.0] Configured write buffer manager actually not take effect in RocksDB's DBOptions 在 DBOptions 中设置 WriteBufferManager 的值不起作用。

https://issues.apache.org/jira/browse/FLINK-15370

  • [FLINK-15361] [1.9.1] ParquetTableSource should pass predicate in projectFields。

https://issues.apache.org/jira/browse/FLINK-15361

活动 / 博客文章 / 其他

  1. 社区钉钉群群直播——《基于 Apache Flink 的监控告警系统》,PPT 下载 & 直播视频回放地址:

https://ververica.cn/developers/flink-training-course3/

  1. 年度回顾 | 2019 年的 Apache Flink(文末有福利) 伍翀(云邪)

中文邮件问题/答疑汇总

  • StreamTableEnvironment.registerDatastream() 开放用户自定义的 schemaDescriptionh 和 DeserializationSchema。

http://apache-flink.147419.n8.nabble.com/StreamTableEnvironment-registerDatastream-schemaDescriptionh-DeserializationSchema-tp1347.html

  • 在 1.8 版本使用 yarn session 模式时是 1 个 Task Manager 一个 CPU,当切换到 1.9.1 时使用同样的启动命令发现一个 slot 使用一个 CPU。

http://apache-flink.147419.n8.nabble.com/slot-td1345.html

  • Flink 1.9 批任务 yn 和 ys 对任务的影响。

http://apache-flink.147419.n8.nabble.com/Flink1-9-yn-ys-tp1313.html

  • Flink SQL 1.9.0 如何创建 elasticsearch 动态索引表。

http://apache-flink.147419.n8.nabble.com/flink-sql-1-9-0-elasticsearch-tp1342.html

  • source 并行度不同导致任务没有数据落地。

http://apache-flink.147419.n8.nabble.com/source-tp1336.html

  • Flink 1.9 SQL Kafka Connector,Json format,how to deal with not json message。

http://apache-flink.147419.n8.nabble.com/Flink-1-9-SQL-Kafka-Connector-Json-format-how-to-deal-with-not-json-message-tp1335.html

  • Flink 实现 Kafka 到 MySQL 的 End-To-End Exactly-Once 中遇到的问题。

http://apache-flink.147419.n8.nabble.com/Flink-Kafka-Mysql-End-To-End-Exactly-Once-tp1321.html

  • Rewind offset to a previous position and ensure certainty。

http://apache-flink.147419.n8.nabble.com/Rewind-offset-to-a-previous-position-and-ensure-certainty-tp1324.html

  • 关于 Flink historyserver 没有 completed-jobs 的问题。

http://apache-flink.147419.n8.nabble.com/FLink-historyserver-completed-jobs-tp1320.html

  • Flink 维表关联,当维表更新后,如何将之前关联的数据进行更新。

http://apache-flink.147419.n8.nabble.com/flink-tp1322.html

  • The assigned slot was removed 分配好的 slot 突然就被 remove 了,导致作业重启。

http://apache-flink.147419.n8.nabble.com/The-assigned-slot-bae00218c818157649eb9e3c533b86af-11-was-removed-td1308.html

  • Flink Checkpoint 配置 HDFS 问题,如何配置高可用。

http://apache-flink.147419.n8.nabble.com/flink-checkpoint-hdfs-tp1318.html

  • 实现一个两阶段提交的 ETL,数据从 Kafka 到 MySQL,遇到的异常问题。

http://apache-flink.147419.n8.nabble.com/ETL-kafka-mysql-tp1317.html

  • using thin jar to replace fat jar on yarn cluster mode。

http://apache-flink.147419.n8.nabble.com/using-thin-jar-to-replace-fat-jar-on-yarn-cluster-mode-tp1293.html

  • 关于 Window Process Function 数据丢失问题。

http://apache-flink.147419.n8.nabble.com/Window-ProcessFunction-tp1311.html

  • 关于 Flink 窗口是否正确关闭的问题。

http://apache-flink.147419.n8.nabble.com/flink-tp1305.html

  • CEP 匹配乱序数据的问题。

http://apache-flink.147419.n8.nabble.com/CEP-tp1301.html

2 分钟快速订阅 Flink 中文邮件列表

Apache Flink 中文邮件列表订阅流程:

发送任意邮件到 user-zh-subscribe@flink.apache.org
收到官方确认邮件
回复该邮件 confirm 即可订阅

订阅成功后将收到 Flink 官方的中文邮件列表的消息,您可以向 user-zh@flink.apache.org 发邮件提问也可以帮助别人解答问题,动动手测试一下!

Tips:

Flink Weekly 周报计划每周更新一期,内容涵盖邮件列表中用户问题的解答、社区开发和提议的进展、社区新闻以及其他活动、博客文章等,欢迎持续关注~

作者介绍:

zhisheng,《Flink 实战与性能优化》专栏作者、之前负责监控平台实时告警研发,现专注于 Flink 开发,积极活跃于开源社区,擅长 Flink、Kafka、ElasticSearch、监控告警等。

相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
9月前
|
人工智能 机器人 定位技术
隔壁火锅店天天排队,老板悄悄做了这件事?
成都火锅店两周营业额提升38%?秘诀是GEO优化!AI搜索时代,让店铺被推荐成“附近首选”。从信息标记到场景内容布局,三步打造AI推荐门店。别再等顾客找你,让AI把客流送到门口。
589 0
|
C# 开发工具
高拍仪拍照SDK开发(良田影像S300L|S500L)
高拍仪拍照SDK开发下载地址:点击下载 本SDK适用于:良田影像S300L|S500L 高拍仪如图: SDN开发包安装之后找到安装目录,如图: 大家找到各自需要的版本即可,需要注意的是如果需要上传图片到服务器的话,我已经写好了C#版的接收程序,代码如下:   using System; using System.
1828 0
|
应用服务中间件 PHP nginx
phpstorm开启debug断点调试模式
phpstorm开启debug断点调试模式
708 2
|
Kubernetes 负载均衡 API
Kubernetes通俗讲解
Kubernetes(K8s)是自动部署、扩展和管理容器化应用的开源平台,源自Google的Borg系统。它简化了大规模容器应用的部署和维护,支持自动部署、扩展、高可用性、服务发现与负载均衡及存储管理。K8s具有Master和Node节点架构,涵盖API Server、Scheduler等组件,其核心概念包括Pod、Service、Deployment和Namespace。使用时需安装集群、定义资源配置文件并应用配置。K8s具备可移植性、可扩展性、自动化及强大的社区支持等优势。
632 2
|
安全 前端开发 关系型数据库
PHP:ThinkPHP5.0下载安装和各种配置
PHP:ThinkPHP5.0下载安装和各种配置
1856 0
|
机器学习/深度学习 存储 监控
【网络安全】文件包含漏洞--通过日志投毒getshell
文件包含漏洞--通过日志投毒getshell
737 0
【网络安全】文件包含漏洞--通过日志投毒getshell
|
域名解析 弹性计算 安全
2023使用阿里云服务器搭建网站全过程图文教程
使用阿里云服务器搭建网站全过程图文教程2023,使用阿里云服务器快速搭建网站教程,先为云服务器安装宝塔面板,然后在宝塔面板上新建站点,阿里云服务器网以搭建WordPress网站博客为例,来详细说下从阿里云服务器CPU内存配置选择、Web环境、域名解析到网站上线全流程:
1072 1
|
JSON 小程序 Java
微信开发工具包WxJava之微信公众号开发的常用API使用篇
承接上文:微信开发工具包WxJava之微信公众号开发的入门使用篇,续写下文。
2283 2
|
机器学习/深度学习 人工智能 算法
AIGC难点
AIGC难点
|
存储 编译器
一次带你理清 ‘ || ’ 和 ‘ && ’ 和 ‘ ^ ’ 等常用操作符以及其余基本操作符(下)
一次带你理清 ‘ || ’ 和 ‘ && ’ 和 ‘ ^ ’ 等常用操作符以及其余基本操作符(下)
828 0

相关产品

  • 实时计算 Flink版