云栖社区Java、Redis、MongoDB运营小编,有意合作请联系钉钉:15810436147
本页目录 创建 HDFS 结果表 DDL定义 WITH参数说明 创建 HDFS 结果表 DDL定义 Flink Batch支持使用HDFS作为结果输出。示例代码如下。
本页目录 创建CSV结果表 WITH参数 创建CSV结果表 Flink可以将CSV格式文件作为目标表输出。示例如下。 create table csv_source( id varchar, name varchar )...
本页目录 创建Parquet源表 WITH参数 创建Parquet源表 Parquet是一种高性能的列式存储格式。您可以在Parquet的官网对这种存储格式做更详情的了解。 Flink可以读取Parquet格式数据作为输入。
本页目录 创建OSS源表 OSS With参数 创建OSS源表 OSS 阿里云对象存储服务(Object Storage Service),简称OSS。为您提供基于网络的数据存取服务。
本页目录 创建 ORC 源表 DDL定义 WITH参数 创建 ORC 源表 ORC(Optimized Row Columnar)是一种Hadoop生态圈中的列式存储格式。
本页目录 创建MetaQ (MQ)源表 WITH参数 FAQ 创建MetaQ (MQ)源表 消息队列(Message Queue)简称MQ,是阿里云商用的专业消息中间件,是企业级互联网架构的核心产品,基于高可用分布式集群技术,搭建了包括发布订阅、消息轨迹、资源统计、定时(延时)、监控报警等一套完整的消息云服务。
本页目录 创建 HDFS 源表 什么是HDFS 读HDFS某个路径下所有CSV文件 读取HDFS某个目录下所有ORC文件示例 WITH参数 创建 HDFS 源表 什么是HDFS HDFS是Hadoop的分布式文件系统。
本页目录 创建DataHub源表 数据总线(DATAHUB) 属性字段 WITH参数 类型映射 创建DataHub源表 数据总线(DATAHUB) DataHub作为一个流式数据总线,为阿里云数加平台提供了大数据的入口服务。
本页目录 创建CSV源表 WITH参数 创建CSV源表 Blink可以将CSV格式文件作为源表读入,进行计算,CSV需要定义的DDL如下: create table csv_source( id varchar, name varchar ) with ( .
什么是Flink Batch功能 实时计算 Flink是阿里巴巴在开源Flink基础上做了大量优化的Flink版本,其中增加了大量的批处理相关功能,使Flink成为统一了批流计算模型的大数据处理引擎。
本页目录 DataHub数据存储注册注意事项 SLS/LogService数据存储注册注意事项 RDS数据存储注册注意事项 OTS数据存储注册注意事项 ADS数据存储注册注意事项 DataHub数据存储注册注意事项 DataHub EndPoint填写 具体内容请您参看DataHub访问域名下的DataHub域名列表。
本页目录 创建角色 添加自定义角色 创建角色 在创建集群过程中需要您创建角色AliyunStreamDefaultRole。具体的操作流程详见角色授权。 说明: 如果已经存在AliyunStreamDefaultRole角色,则不必重复创建。
已开通地域 目前共享模式仅在华东一(杭州),华东二(上海),华南一(深圳),华北二(北京)四个区域开通。如果对其他地域有开通需求,请联系阿里云技术支持。 准备工作 实时计算独享模式开通时,实时计算会为您在您的VPC内创建安全组以及申请弹性网卡。
独享模式系统架构如下所示。 系统架构说明: 实时计算独享模式为全托管管理方式。您所购买的ECS都托管在实时计算VPC下,暂不提供用户登陆接口。如有登陆ECS的需求,请联系实时计算客服。 为了访问您的VPC内服务,会在创建集群时,在您账号下申请弹性网卡。
本页目录 背景 特性 背景 阿里云实时计算 Flink目前推出一种新的购买模式:独享模式。独享模式,是实时计算在原有共享模式基础上的补充。 独享模式是指:用户独享一部分物理资源,这部分资源在网络/磁盘/CPU/内存等资源上跟其他用户完全独立。
启动业务 在数据运维页面,选中作业名称(如bj_dim_join),点击启动,流式作业即可启动。选择启动位点。 注意:实时计算作业启动时候需要您指定启动时间。实际上就是从源头数据存储的指定时间点开始读取数据。
本页目录 新建作业 开发储存 用RDS为数据的维表或结果表 编写业务逻辑的SQL 作业调试StreamSQL 作业上线 说明: 实时计算 Flink按照标准的阿里云产品规格提供账号信息支持,即一个项目隶属于一个项目所有者,多人协作模型必须使用主子账号完成。
本页目录 登录阿里云账号 注册上游存储 注册下游存储 注册上下游存储操作步骤如下。 登录阿里云账号 登录阿里云账号。 注册上游存储 登录DataHub 登录DataHub控制台。 创建DataHub源表 为简化问题,我们将源源不断的数据抽象简化为如下二维表。
本文档主要介绍如何购买订单,绑定订单,创建项目。 操作详情 请您参看如何购买。 注意: 在您开通实时计算服务时,主账号需要授予一个名称为AliyunStreamDefaultRole的系统默认角色给实时计算的服务账号。
本页目录 安全监控背景介绍 安全监控业务架构图 作业操作流程 文本提供了一个安全监控作业案例,来帮助您了解实时计算开发流式作业。 安全监控背景介绍 随着科技的进步,数据的安全越来越被世人所关注,安全实时监控报警尤为重要。
您开通实时计算服务时,需要授予一个名称为AliyunStreamDefaultRole的系统默认角色给实时计算的服务账号。当且仅当该角色被正确授予后,实时计算才能正常地调用相关服务,例如RDS等。 注意:实时计算必须提前进行角色授权,否则后续不能正常运行。
本页目录 账号模型 主子账号 账号安全 账号模型 授权RAM控制台:https://ram.console.aliyun.com/ 实时计算 Flink账号系统目前仅支持阿里云账号体系和RAM主子账号模型。