超详细,Windows系统搭建Flink官方练习环境

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: 如何快速的投入到Flink的学习当中,很多人在搭建环境过程中浪费了太多的时间。一套一劳永逸的本机Flink开发环境可以让我们快速的投入到Flink的学习中去,将精力用在Flink的原理,实战。这也对于工作和面试有着巨大帮助。本文将利用Flink的官方练习环境,在本地Windows系统中快速的搭建Flink环境,并详细的记录整个搭建过程。

Flink的环境搭建需要一定的时间,有多种方法可以在各种环境中部署和操作Apache Flink。不管这种多样性如何,Flink群集的基本组成都相同,并且适用类似的操作原理。

如何快速的搭建一套Flink与Kafka的本地环境,供我们开发学习使用呢?

Flink官网提供了一个环境,在这个环境中可以学习如何管理和运行Flink Jobs。可以学习如何部署和监视应用程序,体验Flink如何从作业失败中恢复,以及执行日常操作任务,例如升级和缩放。

Flink官方提供了一套学习环境,本文将详细介绍这套环境的搭建与使用过程。

此环境由一个Flink 集群和一个Kafka群集组成。

Flink群集始终由一个Flink Master 和一个或多个 Flink TaskManager 组成。Flink Master负责处理作业提交,作业的监督以及资源管理。Flink TaskManager是工作进程,负责执行构成Flink作业的实际任务执行。

微信图片_20220528085549.png

启动时,名为Flink Event Count的Flink作业将提交给JobManager。此外,还将创建两个Kafka Topics 输入输出

微信图片_20220528085553.png


git


https://git-scm.com/downloads

微信图片_20220528085558.png

微信图片_20220528085602.png

微信图片_20220528085606.png

初始化

git config user.name "jack"(配置用户名)

(查看用户名命令git config user.name)

git config user.email "8888888@qq.com"(配置邮箱)

(查看邮箱命令git config user.email)

微信图片_20220528085610.png


docker


首先登陆docker官网,下载相应的docker安装包。

https://www.docker.com/get-started

微信图片_20220528085613.png

大概300多M,耐心等待~

首先,在本机安装git环境。

下载flink-playgrounds源代码。

git clone --branch release-1.11 https://github.com/apache/flink-playgrounds.git

微信图片_20220528085618.png

进行安装

Docker可以帮我们开启Hyper-V

微信图片_20220528085622.png

等待安装成功

微信图片_20220528085626.png

cd flink-playgrounds/operations-playground
docker-compose build

开始构建环境,需要下载的内容较多,耐心等待~

微信图片_20220528085630.png

最终下载成功

微信图片_20220528085633.png

启动环境

docker-compose up -d

也需要下载一会~等待启动成功~

微信图片_20220528085637.png

查看正在运行的docker容器

docker-compose ps

微信图片_20220528085641.png

请注意flink webUI监听的端口,我的为8081


查看管理页面


通过http://localhost:8081访问Flink管理页面

微信图片_20220528085645.png

微信图片_20220528085649.png

微信图片_20220528085653.png

大功告成了~ 下次开机的时候,

cd flink-playgrounds/operations-playground
docker-compose up -d
docker-compose ps

就可以非常方便的开启Flink的研发环境了~

下面列举一些简单的操作。


常见操作


如果需要停止开发环境

docker-compose down -v

查看日志

JobManager日志可以通过添加docker-compose查看

docker-compose logs -f jobmanager

TaskManager日志也可以

docker-compose logs -f taskmanager

Flink CLi

docker-compose run --no-deps client flink --help

Flink RestAPI

curl localhost:8081/jobs

Kafka 操作命令

//input topic (1000 records/s)
docker-compose exec kafka kafka-console-consumer.sh \
  --bootstrap-server localhost:9092 --topic input
//output topic (24 records/min)
docker-compose exec kafka kafka-console-consumer.sh \
  --bootstrap-server localhost:9092 --topic output


具体操作


列出正在运行的作业

docker-compose run --no-deps client flink list

观察故障与恢复

1、观察输出

docker-compose exec kafka kafka-console-consumer.sh \
  --bootstrap-server localhost:9092 --topic output

2、模拟故障

这里模拟TaskManager进程的丢失

docker-compose kill taskmanager

几秒钟后,JobManager将注意到TaskManager丢失,取消受影响的Job,然后立即重新提交以进行恢复。

微信图片_20220528085657.png

3、恢复

docker-compose up -d taskmanager

重新启动TaskManager后,它将重新连接到JobManager

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
11天前
如何隐藏windows10系统任务栏右下角的语言输入法图标?
如何隐藏windows10系统任务栏右下角的语言输入法图标?
|
1月前
|
Java 开发工具 Windows
Windows环境下面启动jar包,输出的日志出现乱码的解决办法
Windows环境下面启动jar包,输出的日志出现乱码的解决办法
|
1月前
|
安全 Linux Shell
全面对比linux和windows,选择哪个系统比较好
全面对比linux和windows,选择哪个系统比较好
64 0
|
1月前
|
监控 Windows
Windows系统中Wireshark抓包工具的安装使用
Windows系统中Wireshark抓包工具的安装使用
|
1月前
|
Unix 编译器 开发者
Qt5.14.2 轻松掌握Qt中的压缩与解压缩:QuaZIP的神秘面纱与实战演练之windows环境编译
Qt5.14.2 轻松掌握Qt中的压缩与解压缩:QuaZIP的神秘面纱与实战演练之windows环境编译
|
2月前
|
消息中间件 Kafka Apache
Flink 提供了与 Kafka 集成的官方 Connector,使得 Flink 能够消费 Kafka 数据
【2月更文挑战第6天】Flink 提供了与 Kafka 集成的官方 Connector,使得 Flink 能够消费 Kafka 数据
71 2
|
30天前
|
消息中间件 Kafka 流计算
如果有多个版本的Flink CDC在同一环境中运行,可能会导致Debezium版本冲突
【2月更文挑战第30天】如果有多个版本的Flink CDC在同一环境中运行,可能会导致Debezium版本冲突
19 2
|
1月前
|
编译器 C语言 流计算
在Windows系统中创建C语言开发环境
【2月更文挑战第22天】在Windows系统中创建C语言开发环境
21 6
|
1月前
|
程序员 Docker Windows
Windows 10系统压缩C盘WSL虚拟磁盘文件
Windows 10系统压缩C盘WSL虚拟磁盘文件
33 1
|
1月前
|
安全 Linux 网络安全