存储概览

本文涉及的产品
实时计算 Flink 版,1000CU*H 3个月
简介:

为方便用户管理数据存储,通过提前注册数据存储,您能够享受到更多一站式流计算开发平台提供的便利性。阿里云实时计算 Flink提供包括RDS、ADS、OTS等各类数据存储系统的管理界面,让您无需跨越多种产品的管理页面。使用阿里云实时计算 Flink平台,即可让您一站式管理您的云上数据存储。

需要注意两条:

  • 实时计算数据存储功能当前仅支持同账号属主下的存储资源,即当前使用实时计算的A用户(包括A下所属的子账户)所注册的数据存储,必须是A购买的数据存储。当前不支持跨账号授权。对于不属于当前用户的资源使用,用户可以直接使用AccessId/AccessKey在DDL定义语句中直接写出。参看文章最下面的跨账号资源引用

  • 数据存储注册需要提前授权。详细步骤请您参看角色授权

存储类别

流式存储

流式存储为下游流计算提供数据驱动,同时也可以为流计算作业提供数据输出。

支持情况 输入 输出
DataHub 支持 支持
日志服务(LogHub) 支持 支持
消息队列源表 (MQ) 支持 支持

静态存储

静态存储为流计算提供了数据关联查询,同时也可以作为流计算作业数据输出。

支持情况 维表 输出
云数据库(RDS) 支持 支持
表格存储结果表(TableStore) 支持 支持

存储使用

注册的数据存储将为以下使用场景提供服务。通过提前注册数据存储,您能够享受到一站式流计算开发平台提供的便利性。需要注意的是,公共云在使用角色授权模式下,只能注册当前用户下的其他数据存储,跨属主的数据存储不能注册。例如,A用户拥有DataHub的ProjectA,但B用户希望在流计算使用ProjectA,目前流计算暂不支持这类使用情况。

注意,实际上,对于不属于当前用户的资源使用,用户可以直接用AccessId/AccessKey在DDL定义语句中直接写出,此时用户无法界面化操作数据存储,但是作业是可以直接运行的。

数据注册

您必须先注册流计算需要的的相关数据存储信息,才能够使用数据存储提供的各项功能。进入开发界面,在左侧边工具栏点击数据存储,点击(+)(添加功能的按钮),即可进入数据存储注册页面,如下图所示。

2211

再次提醒。流计算数据存储功能当前仅支持同账号属主下的存储资源,即当前使用流计算的A用户(包括A下所属的子账户),所注册的数据存储必须是A购买的数据存储。当前不支持跨账号授权。

数据预览

流计算为每个已经注册的数据存储提供了数据预览功能,点击数据存储,选择某个数据存储类型,即可预览数据。以DataHub为例。

选择数据存储-> DataHub存储-> 选择具体的Project -> 选择具体需要预览的Topic,双击即可进入查看数据存储

ssd

自动生成DDL

流计算在引用外部存储时候,需要提前对于外部存储进行声明工作。对于一个流式输入引用的声明如下。


  
  
  1. CREATE TABLE in_stream(
  2. a varchar,
  3. b varchar,
  4. c timeStamp,
  5. ) with (
  6. type='datahub',
  7. endPoint='http://dh-cn-hangzhou.aliyuncs.com',
  8. project='blink_test',
  9. topic='ip_count02',
  10. accessId='LTAIYtafPsXXXX',
  11. accessKey='gUqyVwfkK2vfJI7jF90QXXXXX'
  12. );

流计算要求声明的表字段名称与源DataHub表保持一致,类型需要根据两边的类型进行一定的转换。这类转换工作琐碎,并且容易犯错。流计算提供了辅助生成DDL功能,帮助您一键生成建表DDL语句。

在数据开发页面,进入需要编辑的作业,点开侧边栏的数据存储工具箱。

22这里选择作为输入表进行引用,点击”作为输入表引用”。此时流计算系统会在当前光标界面生成上述DDL信息。

附: 跨账号的资源引用

当前流计算界面不支持跨账号数据存储注册和使用,流计算数据存储功能当前仅支持同账号属主下的存储资源,即当前使用流计算的A用户(包括A下所属的子账户),所注册的数据存储必须是A购买的数据存储。当前不支持跨账号授权。如果您需要使用跨账号授权功能,可以考虑直接在DDL语句中手动添加外部数据引用。例如,如果用户A需要使用用户B的资源,则可以完成以下DDL定义。


   
   
  1. CREATE TABLE in_stream(
  2. a varchar,
  3. b varchar,
  4. c timeStamp,
  5. ) with (
  6. type='datahub',
  7. endPoint='http://dh-cn-hangzhou.aliyuncs.com',
  8. project='blink_test',
  9. topic='ip_count02',
  10. accessId='B用户授权的AccessId',
  11. accessKey='B用户授权的AccessKey'
  12. );
本文转自实时计算—— 存储概览
相关文章
|
5天前
|
搜索推荐 编译器 Linux
一个可用于企业开发及通用跨平台的Makefile文件
一款适用于企业级开发的通用跨平台Makefile,支持C/C++混合编译、多目标输出(可执行文件、静态/动态库)、Release/Debug版本管理。配置简洁,仅需修改带`MF_CONFIGURE_`前缀的变量,支持脚本化配置与子Makefile管理,具备完善日志、错误提示和跨平台兼容性,附详细文档与示例,便于学习与集成。
309 116
|
20天前
|
域名解析 人工智能
【实操攻略】手把手教学,免费领取.CN域名
即日起至2025年12月31日,购买万小智AI建站或云·企业官网,每单可免费领1个.CN域名首年!跟我了解领取攻略吧~
|
7天前
|
数据采集 人工智能 自然语言处理
Meta SAM3开源:让图像分割,听懂你的话
Meta发布并开源SAM 3,首个支持文本或视觉提示的统一图像视频分割模型,可精准分割“红色条纹伞”等开放词汇概念,覆盖400万独特概念,性能达人类水平75%–80%,推动视觉分割新突破。
519 47
Meta SAM3开源:让图像分割,听懂你的话
|
14天前
|
安全 Java Android开发
深度解析 Android 崩溃捕获原理及从崩溃到归因的闭环实践
崩溃堆栈全是 a.b.c?Native 错误查不到行号?本文详解 Android 崩溃采集全链路原理,教你如何把“天书”变“说明书”。RUM SDK 已支持一键接入。
697 222
|
2天前
|
Windows
dll错误修复 ,可指定下载dll,regsvr32等
dll错误修复 ,可指定下载dll,regsvr32等
137 95
|
12天前
|
人工智能 移动开发 自然语言处理
2025最新HTML静态网页制作工具推荐:10款免费在线生成器小白也能5分钟上手
晓猛团队精选2025年10款真正免费、无需编程的在线HTML建站工具,涵盖AI生成、拖拽编辑、设计稿转代码等多种类型,均支持浏览器直接使用、快速出图与文件导出,特别适合零基础用户快速搭建个人网站、落地页或企业官网。
1716 158
|
存储 人工智能 监控
从代码生成到自主决策:打造一个Coding驱动的“自我编程”Agent
本文介绍了一种基于LLM的“自我编程”Agent系统,通过代码驱动实现复杂逻辑。该Agent以Python为执行引擎,结合Py4j实现Java与Python交互,支持多工具调用、记忆分层与上下文工程,具备感知、认知、表达、自我评估等能力模块,目标是打造可进化的“1.5线”智能助手。
957 62