Flink 1.16 新版本发布,全新功能上线!Flink Batch、更轻量的 Checkpoint、Table Store 0.2、 Streaming Warehouse 、流批一体等多重关键词汇聚在一起,会碰撞出怎样的火花?敬请期待!
Apache Flink 社区 1.16 新版本发布 Meetup 来啦!
9月24日 | 北京 | 线下
Flink 1.16 + Flink Table Store 0.2 发布
Streaming Warehouse 往前迈了重要的一步!
嘉宾及议题介绍
01《更快更稳更易用 -- Flink 批处理能力演进》
【嘉宾介绍】
贺小令,花名晓令 ,Apache Flink Committer,阿里巴巴高级技术专家。2014 年北京大学硕士毕业后加入阿里巴巴,目前是 Flink SQL 引擎优化方向负责人,长期从事 Flink 的研发工作,致力于提供高性能、低成本,稳定、可靠的计算框架。
朱翥,Apache Flink PMC & Committer,阿里巴巴高级技术专家。来自阿里巴巴计算平台事业部实时计算团队,主要负责 Flink 的调度和容错的研发工作。
【演讲简介】
社区一直在改进 Flink 的批处理能力,其中的一个主要方向是通过运行时信息,自动的优化作业的执行,来使得作业更快、更稳定、更易用。这些改进包括,对多分区表进行动态分区裁剪来提高处理效率,根据数据量自动为作业节点设置合适的节点并行度,通过预测执行来发现和缓解慢节点对作业的影响,自动调整数据传输模式来提高资源利用率和处理性能。本次议题,我们将介绍这些改进及其后续改进计划。
02《Flink 1.16:Hive SQL 如何平迁到 Flink SQL》
【嘉宾介绍】
伍翀,花名云邪,Apache Flink PMC member & Committer,Flink CDC 作者。就职于阿里云开源大数据平台,主要负责 Flink CDC、Flink SQL 相关的研发工作,长期以来一直专注于流处理、批处理领域。
【演讲简介】
流批一体是业界火热的技术方向,Flink 社区也一直引领着这个技术方向,而 Hive 兼容是流批一体中非常重要的一个里程碑。在本次议题中,我们会介绍为了让用户以最低成本地迁移 Hive SQL 作业到 Flink SQL,我们在 Flink 1.16 版本中做的一系列核心改进。我们将 Flink 的 Hive SQL 兼容性从 85% 提升到了 95%,并且引入了 SQLGateway 完全兼容了 HiveServer2 协议,还提升了 Flink Batch 作业稳定性和性能等等。最后我们会通过一个端到端的迁移样例,分享 HiveSQL 作业如何平迁到 FlinkSQL。
03《基于Log的通用增量Checkpoint》
【嘉宾介绍】
俞航翔,Apache Flink Contributer。主要从事 Flink State/Checkpoint 方向的开发和改进
【演讲简介】
FLIP-158 引入的 Changelog State Backend 可以为用户作业提供更稳定快速的 Checkpoint,进一步提供更快速的 Failover 过程,同时为 Transactional sinks 作业提供更小的端到端延迟。本议题将从 Checkpoint 的发展历程出发,介绍 Changelog State Backend 的基本机制、应用场景和未来规划,同时介绍最新版本在 State 上的一些优化工作。
04《基于 Flink CDC + Kafka 加速业务实时化》
【嘉宾介绍】
任庆盛,Apache Flink Committer,2020 年硕士毕业于卡内基梅隆大学,随后加入阿里云计算平台开源大数据团队
【演讲简介】
随着 Flink CDC 开源社区的蓬勃发展,Flink CDC 技术在易用性和稳定性方面不断进步,应用到越来越多的业务解决方案中。本议题将分享 Flink CDC 在开源社区和数据集成领域的最新进展,并从实际业务场景出发,针对 Flink CDC 在实时同步数据库数据时的痛点,介绍并演示如何将 Flink CDC 和 Kafka 结合,通过一站式解决方案,解决 Changelog 实时分析场景的诸多难点,为分析业务提供更实时的数据。
05《Flink Table Store 典型应用场景》
【嘉宾介绍】
李劲松,花名之信,目前是 Apache Flink 的 PMC 成员,Apache Iceberg 和 Apache Beam 的 Committer 成员,就职于阿里云开源大数据,负责 Flink Table Store 存储,长期专注于流批一体计算和存储技术。
【演讲简介】
Flink Table Store 0.2 已经发布,补全了计算的生态,加强和稳定了存储的内核。
本次议题主要分享 Flink Table Store 解决了什么问题,有什么典型的应用场景,并且在这些场景中有什么优势。Flink Table Store 作为流批一体在存储,如何在 Streaming Warehouse 中作为存储帮助业务达到更好的业务延时,帮助流计算扩展更多的场景。
活动详情
时间:9 月 24 日 13:30-18:00
地点:北京朝阳区昆泰酒店
PC 端直播观看:https://developer.aliyun.com/live/250182
移动端建议关注 ApacheFlink 视频号预约观看
预约操作:
近期热点
Beyond Stream Processing !第四届实时计算 Flink 挑战赛启动,49 万奖金等你来拿!
5 大类应用场景,26 个大厂真实生产案例分享,2022 年度 Apache Flink 案例集发布
活动推荐
阿里云基于 Apache Flink 构建的企业级产品-实时计算Flink版现开启活动:
99 元试用 实时计算Flink版(包年包月、10CU)即有机会获得 Flink 独家定制卫衣;另包 3 个月及以上还有 85 折优惠!
了解活动详情:https://www.aliyun.com/product/bigdata/sc