实时计算Flink —— 独享模式快速入门

本文涉及的产品
实时计算 Flink 版,1000CU*H 3个月
对象存储 OSS,20GB 3个月
对象存储OSS,敏感数据保护2.0 200GB 1年
简介: 已开通地域 目前共享模式仅在华东一(杭州),华东二(上海),华南一(深圳),华北二(北京)四个区域开通。如果对其他地域有开通需求,请联系阿里云技术支持。 准备工作 实时计算独享模式开通时,实时计算会为您在您的VPC内创建安全组以及申请弹性网卡。

已开通地域

目前共享模式仅在华东一(杭州),华东二(上海),华南一(深圳),华北二(北京)四个区域开通。如果对其他地域有开通需求,请联系阿里云技术支持。

准备工作

  1. 实时计算独享模式开通时,实时计算会为您在您的VPC内创建安全组以及申请弹性网卡。请勿删除此安全组和弹性网卡。

    • 如果已有专有网络VPC,请选择实时计算需要访问的VPC。
    • 如果没有VPC,请开通阿里云VPC服务。如何开通专有网络VPC请参看搭建专有网络

      注意:搭建专有网络时请确保以下两点。

      1. VPC内的ECS充足。
      2. vswitch内可用IP个数,要大于等于Flink集群节点个数。
  2. 为了保护您的数据安全,独享集群中您上传的UDF包,都会被保存到您的OSS bucket中。请选择已有OSS bucket,如果没有OSS bucket,请创建对象存储OSS

  3. 完成独享模式角色授权

集群创建

新建集群

  • 登录实时计算控制台项目管理>集群管理>新建集群
2.png | center | 747x370

基本信息

  • 填写集群名字集群备注
3.png | center | 747x340

集群配置

4.png | center | 747x577

OSS Bucket参数

OSS选择账号下保存用户UDF的OSS Bucket。如果没有,请创建对象存储OSS

注意:OSS创建Bucket时,存储类型请您务必选择标准存储读写权限推荐选择私有不能选择公共读。如下图。

标准储存

VPC参数

选择集群需要连接的VPC。

Zone参数

VPC参数正确选择后,可选用的Zone参数会自动显示。如无可选Zone或者VSwitch,有以下两种原因。

  1. 所选zone(可用区)内,ECS库存不足。
  2. 所选vswitch中,可用IP数小于申请的ECS数。

请解决以上问题后,刷新页面,重新新建集群。

确认信息和创建集群

点击创建

33.jpg | center | 746x495
6.png | center | 747x359

说明:大概需要半个小时,如果长时间没有完成集群创建,请联系阿里云技术支持。

项目创建

  • 选择创建好的集群,创建项目。
  • 填写项目名称项目备注
1.png | center | 747x397
  • 点击项目就可以进入所创建的项目里开发作业了,剩余的步骤可以参考大集群的开发、运维文档!
2.png | center | 747x344

用户指南

独享模式环境搭建完成后,作业开发流程与共享模式完全相同。请参考共享模式文档。

快速入门

WebConsole手册

BlinkSQL手册

UDX文档

UDX简介

自定义标量函数(UDF)

自定义聚合函数(UDAF)

自定义表值函数(UDTF)


本文转自实时计算——独享模式快速入门

相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
4月前
|
SQL 关系型数据库 MySQL
Flink CDC 3.4 发布, 优化高频 DDL 处理,支持 Batch 模式,新增 Iceberg 支持
Apache Flink CDC 3.4.0 版本正式发布!经过4个月的开发,此版本强化了对高频表结构变更的支持,新增 batch 执行模式和 Apache Iceberg Sink 连接器,可将数据库数据全增量实时写入 Iceberg 数据湖。51位贡献者完成了259次代码提交,优化了 MySQL、MongoDB 等连接器,并修复多个缺陷。未来 3.5 版本将聚焦脏数据处理、数据限流等能力及 AI 生态对接。欢迎下载体验并提出反馈!
819 1
Flink CDC 3.4 发布, 优化高频 DDL 处理,支持 Batch 模式,新增 Iceberg 支持
|
6月前
|
关系型数据库 MySQL 数据库
基于Flink CDC 开发,支持Web-UI的实时KingBase 连接器,三大模式无缝切换,效率翻倍!
TIS 是一款基于Web-UI的开源大数据集成工具,通过与人大金仓Kingbase的深度整合,提供高效、灵活的实时数据集成方案。它支持增量数据监听和实时写入,兼容MySQL、PostgreSQL和Oracle模式,无需编写复杂脚本,操作简单直观,特别适合非专业开发人员使用。TIS率先实现了Kingbase CDC连接器的整合,成为业界首个开箱即用的Kingbase CDC数据同步解决方案,助力企业数字化转型。
1119 5
基于Flink CDC 开发,支持Web-UI的实时KingBase 连接器,三大模式无缝切换,效率翻倍!
|
11月前
|
分布式计算 资源调度 大数据
大数据-110 Flink 安装部署 下载解压配置 Standalone模式启动 打包依赖(一)
大数据-110 Flink 安装部署 下载解压配置 Standalone模式启动 打包依赖(一)
297 0
|
11月前
|
分布式计算 资源调度 大数据
大数据-110 Flink 安装部署 下载解压配置 Standalone模式启动 打包依赖(二)
大数据-110 Flink 安装部署 下载解压配置 Standalone模式启动 打包依赖(二)
224 0
|
11月前
|
资源调度 分布式计算 大数据
大数据-111 Flink 安装部署 YARN部署模式 FlinkYARN模式申请资源、提交任务
大数据-111 Flink 安装部署 YARN部署模式 FlinkYARN模式申请资源、提交任务
322 0
|
关系型数据库 MySQL 数据处理
实时计算 Flink版产品使用问题之mini-cluster模式下,怎么指定checkpoint的时间间隔
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
Java 关系型数据库 MySQL
实时计算 Flink版操作报错合集之在使用批处理模式中使用flat_aggregate函数时报错,该如何解决
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
|
资源调度 算法 Java
Flink四种集群模式原理
Flink四种集群模式原理
621 0
|
消息中间件 SQL Kafka
实时计算 Flink版产品使用问题之如何将changelog转换为append模式
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
关系型数据库 MySQL Serverless
实时计算 Flink版产品使用问题之原生Session模式下遇到classpath路径未生效,该怎么办
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。