Flink 最佳搭档:开发部署平台 Zeppelin 的自白

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: Flink 的学习者或者爱好者想必十分了解,除了需要熟悉 Flink 本身之外,如果能有一款简单上手的 Flink 开发部署工具,不用写前端代码就能实现实时大屏、支持全部语言接口、支持多条 SQL,还能管理 Flink Job,这样的开发部署平台是不是完全无法拒绝?

Flink 的学习者或者爱好者想必十分了解,除了需要熟悉 Flink 本身之外,如果能有一款简单上手的 Flink 开发部署工具,不用写前端代码就能实现实时大屏、支持全部语言接口、支持多条 SQL,还能管理 Flink Job,这样的开发部署平台是不是完全无法拒绝?

很幸运,Apache 社区就有这么一款工具:Zeppelin,而且可能是开源界最好的 Flink 开发平台。

下面是 Zeppelin 和 Flink 的故事。

Zeppelin:Flink 最佳搭档

Flink:我提供了 SQL、Java、Scala 还有 Python 等多种语言支持,不过每种语言都有自己的入口,多种语言混着用暂时无法实现。比如在 sql-client 中只能运行 SQL,不能写 UDF,在 Pyflink shell 里,只能用 Python 的 UDF,不能写和用 scala 和 java 的 UDF。有没有谁能帮我把这些语言全部打通?

Zeppelin:我可以!

Flink:我的一个很大的使用场景是实时大屏,但是我一个人办不到,往往需要借助第三方存储,还需要前端开发,有没有谁能让用户不用写前端代码就实现实时大屏?

Zeppelin:我可以!

Flink:我的 SQL 已经很强大了,但是用户在 sql-client 里不能写 comment,暂时也不支持运行多条 SQL 语句,有谁能帮我把这些功能补齐下?

Zeppelin:我可以!

Flink:好多初学者说要跑一个 Flink job 需要多种配置并且需要学习各种命令行,有没有谁能让大家更容易提交和管理 Flink Job。

Zeppelin:我可以!

Flink:Flink Job 提交目前只能一个个提交,有些同学想并行执行多个 Flink Job,谁能帮我搞定这个需求?

Zeppelin:我可以!

Flink:我有丰富的 connector,用户需要把 connector 打包到 uber jar 里,或者 copy 到 Flink 的 Lib 下,这有可能把各种 connector jar 混在一起,容易发生冲突,有没有谁能提供一个干净点的方案?

Zeppelin:我可以!

如果您也有以上的疑问和需求,那么来了解下 Zeppelin 吧。Flink 社区邀请 Apache Zeppelin PMC 为您整理了 Zeppelin 的系列视频教程及文章教程。您也可以加入 Flink on Zeppelin 的钉钉群来加入我们的讨论。

Flink on Zeppelin 文章教程

Flink on Zeppelin (1) - 入门篇
https://mp.weixin.qq.com/s/a6Zau9c1ZWTSotl_dMg0Xg
Flink on Zeppelin (2) - Batch篇
https://mp.weixin.qq.com/s/K9rPXqqaPuhnIT_TZN8M3w
Flink on Zeppelin (3) - Streaming篇
https://mp.weixin.qq.com/s/k_0NgJinpK0VVTXw_Jd7ag
Flink on Zeppelin (4) - 机器学习篇
https://mp.weixin.qq.com/s/ccyptHGgB_PQ0e6V8B9UKQ
Flink on Zeppelin  (5) - 高级特性篇
https://mp.weixin.qq.com/s/jZV6gua8ypqdiGPBulOw6Q
Flink on Zeppelin (6) - Recovering
https://mp.weixin.qq.com/s/D02M68HO4Te4cReIoRLMwQ
Flink on Zeppelin (7) - Yarn interpreter 模式
https://mp.weixin.qq.com/s/IgVd2hZlM2twEIHYLavaxw

Flink on Zeppelin 视频教程

视频内容大纲:

  • Flink on Zeppelin 0. 安装启动 Zeppelin
  • Flink on Zeppelin 1. 补充 Zeppelin 基本概念
  • Flink on Zeppelin 2. Local 模式
  • Flink on Zeppelin 3. 多语言支持
  • Flink on Zeppelin 4. Remote 模式
  • Flink on Zeppelin 5. Yarn 模式
  • Flink on Zeppelin 6. Interpreter bind mode (Per Note Isolated)
  • Flink on Zeppelin 7. Interpreter bind mode (Per User Isolated)
  • Flink on Zeppelin 8. Inline Configuration
  • Flink on Zeppelin 9. Hive Integration
  • Flink on Zeppelin 10. SQL 入门
  • Flink on Zeppelin 11. Streaming 数据可视化 Single 模式
  • Flink on Zeppelin 12. Streaming 数据可视化 Update 模式
  • Flink on Zeppelin 13. Streaming 数据可视化 Append 模式
  • Flink on Zeppelin 14. 连接 kafka 数据源
  • Flink on Zeppelin 15. Streaming ETL
  • Flink on Zeppelin 16. Scala UDF
  • Flink on Zeppelin 17. Python DUF
  • Flink on Zeppelin 18. UDF via flink.udf.jars
  • Flink on Zeppelin 19. PyFlink 入门
  • Flink on Zeppelin 20. Flink 最佳实践1
  • Flink on Zeppelin 21. Flink 最佳实践2
  • Flink on Zeppelin 22. Recovering
  • Flink on Zeppelin 23. Yarn Interpreter 模式

点击「阅读原文」即可查看 Flink on Zeppelin 的系列实操教程视频~

▼ Flink on Zeppelin 技术交流钉钉群 ▼

zeppelin.jpg

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
5天前
|
SQL 消息中间件 Kafka
Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
本文介绍了阿里云实时数仓Hologres负责人姜伟华在Flink Forward Asia 2024上的分享,涵盖实时数仓的发展历程、从实时数仓到实时湖仓的演进,以及总结。文章通过三代实时数仓架构的演变,详细解析了Lambda架构、Kafka实时数仓分层+OLAP、Hologres实时数仓分层复用等方案,并探讨了未来从实时数仓到实时湖仓的演进方向。最后,结合实际案例和Demo展示了Hologres + Flink + Paimon在实时湖仓中的应用,帮助用户根据业务需求选择合适的方案。
348 20
Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
|
6月前
|
容灾 流计算
美团 Flink 大作业部署问题之 Checkpoint 跨机房副本的制作能力如何实现
美团 Flink 大作业部署问题之 Checkpoint 跨机房副本的制作能力如何实现
|
4月前
|
Kubernetes Cloud Native 流计算
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
132 3
|
4月前
|
存储 运维 监控
实时计算Flink版在稳定性、性能、开发运维、安全能力等等跟其他引擎及自建Flink集群比较。
实时计算Flink版在稳定性、性能、开发运维和安全能力等方面表现出色。其自研的高性能状态存储引擎GeminiStateBackend显著提升了作业稳定性,状态管理优化使性能提升40%以上。核心性能较开源Flink提升2-3倍,资源利用率提高100%。提供一站式开发管理、自动化运维和丰富的监控告警功能,支持多语言开发和智能调优。安全方面,具备访问控制、高可用保障和全链路容错能力,确保企业级应用的安全与稳定。
75 0
|
4月前
|
资源调度 分布式计算 大数据
大数据-111 Flink 安装部署 YARN部署模式 FlinkYARN模式申请资源、提交任务
大数据-111 Flink 安装部署 YARN部署模式 FlinkYARN模式申请资源、提交任务
159 0
|
6月前
|
存储 SQL 安全
联通实时计算平台问题之如何体现集群治理的效果
联通实时计算平台问题之如何体现集群治理的效果
|
6月前
|
容灾 流计算
美团 Flink 大作业部署问题之Checkpoint 的 metadata 文件包含什么信息
美团 Flink 大作业部署问题之Checkpoint 的 metadata 文件包含什么信息
|
6月前
|
消息中间件 监控 Java
联通实时计算平台问题之监控Kafka集群的断传和积压情况要如何操作
联通实时计算平台问题之监控Kafka集群的断传和积压情况要如何操作
|
6月前
|
消息中间件 监控 Kafka
联通实时计算平台问题之Flink状态后端数据量较大时,问题排查要如何进行
联通实时计算平台问题之Flink状态后端数据量较大时,问题排查要如何进行
|
6月前
|
机器学习/深度学习 人工智能 运维
美团 Flink 大作业部署问题之Flink在生态技术演进上有什么主要方向
美团 Flink 大作业部署问题之Flink在生态技术演进上有什么主要方向

相关产品

  • 实时计算 Flink版