Flink 最佳搭档:开发部署平台 Zeppelin 的自白

本文涉及的产品
实时计算 Flink 版,1000CU*H 3个月
简介: Flink 的学习者或者爱好者想必十分了解,除了需要熟悉 Flink 本身之外,如果能有一款简单上手的 Flink 开发部署工具,不用写前端代码就能实现实时大屏、支持全部语言接口、支持多条 SQL,还能管理 Flink Job,这样的开发部署平台是不是完全无法拒绝?

Flink 的学习者或者爱好者想必十分了解,除了需要熟悉 Flink 本身之外,如果能有一款简单上手的 Flink 开发部署工具,不用写前端代码就能实现实时大屏、支持全部语言接口、支持多条 SQL,还能管理 Flink Job,这样的开发部署平台是不是完全无法拒绝?

很幸运,Apache 社区就有这么一款工具:Zeppelin,而且可能是开源界最好的 Flink 开发平台。

下面是 Zeppelin 和 Flink 的故事。

Zeppelin:Flink 最佳搭档

Flink:我提供了 SQL、Java、Scala 还有 Python 等多种语言支持,不过每种语言都有自己的入口,多种语言混着用暂时无法实现。比如在 sql-client 中只能运行 SQL,不能写 UDF,在 Pyflink shell 里,只能用 Python 的 UDF,不能写和用 scala 和 java 的 UDF。有没有谁能帮我把这些语言全部打通?

Zeppelin:我可以!

Flink:我的一个很大的使用场景是实时大屏,但是我一个人办不到,往往需要借助第三方存储,还需要前端开发,有没有谁能让用户不用写前端代码就实现实时大屏?

Zeppelin:我可以!

Flink:我的 SQL 已经很强大了,但是用户在 sql-client 里不能写 comment,暂时也不支持运行多条 SQL 语句,有谁能帮我把这些功能补齐下?

Zeppelin:我可以!

Flink:好多初学者说要跑一个 Flink job 需要多种配置并且需要学习各种命令行,有没有谁能让大家更容易提交和管理 Flink Job。

Zeppelin:我可以!

Flink:Flink Job 提交目前只能一个个提交,有些同学想并行执行多个 Flink Job,谁能帮我搞定这个需求?

Zeppelin:我可以!

Flink:我有丰富的 connector,用户需要把 connector 打包到 uber jar 里,或者 copy 到 Flink 的 Lib 下,这有可能把各种 connector jar 混在一起,容易发生冲突,有没有谁能提供一个干净点的方案?

Zeppelin:我可以!

如果您也有以上的疑问和需求,那么来了解下 Zeppelin 吧。Flink 社区邀请 Apache Zeppelin PMC 为您整理了 Zeppelin 的系列视频教程及文章教程。您也可以加入 Flink on Zeppelin 的钉钉群来加入我们的讨论。

Flink on Zeppelin 文章教程

Flink on Zeppelin (1) - 入门篇
https://mp.weixin.qq.com/s/a6Zau9c1ZWTSotl_dMg0Xg
Flink on Zeppelin (2) - Batch篇
https://mp.weixin.qq.com/s/K9rPXqqaPuhnIT_TZN8M3w
Flink on Zeppelin (3) - Streaming篇
https://mp.weixin.qq.com/s/k_0NgJinpK0VVTXw_Jd7ag
Flink on Zeppelin (4) - 机器学习篇
https://mp.weixin.qq.com/s/ccyptHGgB_PQ0e6V8B9UKQ
Flink on Zeppelin  (5) - 高级特性篇
https://mp.weixin.qq.com/s/jZV6gua8ypqdiGPBulOw6Q
Flink on Zeppelin (6) - Recovering
https://mp.weixin.qq.com/s/D02M68HO4Te4cReIoRLMwQ
Flink on Zeppelin (7) - Yarn interpreter 模式
https://mp.weixin.qq.com/s/IgVd2hZlM2twEIHYLavaxw

Flink on Zeppelin 视频教程

视频内容大纲:

  • Flink on Zeppelin 0. 安装启动 Zeppelin
  • Flink on Zeppelin 1. 补充 Zeppelin 基本概念
  • Flink on Zeppelin 2. Local 模式
  • Flink on Zeppelin 3. 多语言支持
  • Flink on Zeppelin 4. Remote 模式
  • Flink on Zeppelin 5. Yarn 模式
  • Flink on Zeppelin 6. Interpreter bind mode (Per Note Isolated)
  • Flink on Zeppelin 7. Interpreter bind mode (Per User Isolated)
  • Flink on Zeppelin 8. Inline Configuration
  • Flink on Zeppelin 9. Hive Integration
  • Flink on Zeppelin 10. SQL 入门
  • Flink on Zeppelin 11. Streaming 数据可视化 Single 模式
  • Flink on Zeppelin 12. Streaming 数据可视化 Update 模式
  • Flink on Zeppelin 13. Streaming 数据可视化 Append 模式
  • Flink on Zeppelin 14. 连接 kafka 数据源
  • Flink on Zeppelin 15. Streaming ETL
  • Flink on Zeppelin 16. Scala UDF
  • Flink on Zeppelin 17. Python DUF
  • Flink on Zeppelin 18. UDF via flink.udf.jars
  • Flink on Zeppelin 19. PyFlink 入门
  • Flink on Zeppelin 20. Flink 最佳实践1
  • Flink on Zeppelin 21. Flink 最佳实践2
  • Flink on Zeppelin 22. Recovering
  • Flink on Zeppelin 23. Yarn Interpreter 模式

点击「阅读原文」即可查看 Flink on Zeppelin 的系列实操教程视频~

▼ Flink on Zeppelin 技术交流钉钉群 ▼

zeppelin.jpg

相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
4月前
|
消息中间件 运维 Kafka
直播预告|Kafka+Flink双引擎实战:手把手带你搭建分布式实时分析平台!
在数字化转型中,企业亟需从海量数据中快速提取价值并转化为业务增长动力。5月15日19:00-21:00,阿里云三位技术专家将讲解Kafka与Flink的强强联合方案,帮助企业零门槛构建分布式实时分析平台。此组合广泛应用于实时风控、用户行为追踪等场景,具备高吞吐、弹性扩缩容及亚秒级响应优势。直播适合初学者、开发者和数据工程师,参与还有机会领取定制好礼!扫描海报二维码或点击链接预约直播:[https://developer.aliyun.com/live/255088](https://developer.aliyun.com/live/255088)
326 35
直播预告|Kafka+Flink双引擎实战:手把手带你搭建分布式实时分析平台!
|
4月前
|
消息中间件 运维 Kafka
直播预告|Kafka+Flink 双引擎实战:手把手带你搭建分布式实时分析平台!
直播预告|Kafka+Flink 双引擎实战:手把手带你搭建分布式实时分析平台!
155 11
|
6月前
|
关系型数据库 MySQL 数据库
基于Flink CDC 开发,支持Web-UI的实时KingBase 连接器,三大模式无缝切换,效率翻倍!
TIS 是一款基于Web-UI的开源大数据集成工具,通过与人大金仓Kingbase的深度整合,提供高效、灵活的实时数据集成方案。它支持增量数据监听和实时写入,兼容MySQL、PostgreSQL和Oracle模式,无需编写复杂脚本,操作简单直观,特别适合非专业开发人员使用。TIS率先实现了Kingbase CDC连接器的整合,成为业界首个开箱即用的Kingbase CDC数据同步解决方案,助力企业数字化转型。
1106 5
基于Flink CDC 开发,支持Web-UI的实时KingBase 连接器,三大模式无缝切换,效率翻倍!
|
7月前
|
SQL 消息中间件 Kafka
Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
本文介绍了阿里云实时数仓Hologres负责人姜伟华在Flink Forward Asia 2024上的分享,涵盖实时数仓的发展历程、从实时数仓到实时湖仓的演进,以及总结。文章通过三代实时数仓架构的演变,详细解析了Lambda架构、Kafka实时数仓分层+OLAP、Hologres实时数仓分层复用等方案,并探讨了未来从实时数仓到实时湖仓的演进方向。最后,结合实际案例和Demo展示了Hologres + Flink + Paimon在实时湖仓中的应用,帮助用户根据业务需求选择合适的方案。
1170 20
Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
|
7月前
|
SQL 存储 HIVE
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
本文整理自鹰角网络大数据开发工程师朱正军在Flink Forward Asia 2024上的分享,主要涵盖四个方面:鹰角数据平台架构、数据湖选型、湖仓一体建设及未来展望。文章详细介绍了鹰角如何构建基于Paimon的数据湖,解决了Hudi入湖的痛点,并通过Trino引擎和Ranger权限管理实现高效的数据查询与管控。此外,还探讨了湖仓一体平台的落地效果及未来技术发展方向,包括Trino与Paimon的集成增强、StarRocks的应用以及Paimon全面替换Hive的计划。
665 1
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
|
6月前
|
SQL 消息中间件 Serverless
​Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
​Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
169 4
|
6月前
|
SQL 存储 HIVE
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
381 2
|
11月前
|
Kubernetes Cloud Native 流计算
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
289 3
|
11月前
|
存储 运维 监控
实时计算Flink版在稳定性、性能、开发运维、安全能力等等跟其他引擎及自建Flink集群比较。
实时计算Flink版在稳定性、性能、开发运维和安全能力等方面表现出色。其自研的高性能状态存储引擎GeminiStateBackend显著提升了作业稳定性,状态管理优化使性能提升40%以上。核心性能较开源Flink提升2-3倍,资源利用率提高100%。提供一站式开发管理、自动化运维和丰富的监控告警功能,支持多语言开发和智能调优。安全方面,具备访问控制、高可用保障和全链路容错能力,确保企业级应用的安全与稳定。
198 0
|
11月前
|
资源调度 分布式计算 大数据
大数据-111 Flink 安装部署 YARN部署模式 FlinkYARN模式申请资源、提交任务
大数据-111 Flink 安装部署 YARN部署模式 FlinkYARN模式申请资源、提交任务
314 0

相关产品

  • 实时计算 Flink版