AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

请教大家下列的问题，麻烦看看有没有解决办法？

请教个问题， 1、使用了RocksDB状态后端， 状态使用了 MapState，如果在这个MapState存了大量的数据，比如十几个G的数据，那么在 遍历这个MapState的时候，是把这十几G的数据全部都读取到内存中吗？ 2、keyby后 使用Reduce，统计的数据是按状态存储吗，还是单纯的存到内存里，使用cp或sp重启作业还能获取到之前统计的数据吗

展开
收起
圆葱猪肉包 2023-03-21 14:39:25 210 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • co63oc_
    GitHub https://github.com/co63oc/cloud

    可以使用iterator()循环读取 https://nightlies.apache.org/flink/flink-docs-master/api/java/org/apache/flink/api/common/state/MapState.html image.png 数据可以状态存储，也可以存内存，数据保存在RocksDB可以再读取

    2023-03-24 14:59:44
    赞同 展开评论
问答分类：
存储 实时计算 Flink版
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
this xml file does not appear to have any style in
47780
10
0
请问下 我访问接口不通 什么原因 Provisional headers are shown
1634
0
0
购买阿里国外的云服务器是否可以访问谷歌？
80394
47
0
通过www和不带www的网址输入最终都指向www.我的域名.com，求指教
123819
28
0
OSS的endpoint如何查看
36175
6
0
sql server的用户名和密码怎么查啊？
35484
21
0
配置了安全组规则，端口还是无法访问
32227
25
0
域名在腾讯云备案成功，解析到阿里云服务器，提示仍需备案？
59440
30
0
设置域名解析如何指向我的服务器url包括端口号
17534
2
0
Connection reset by peer的常见原因及解决办法
3727
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问
收录在圈子:
阿里云实时计算Flink
199212
+ 订阅
实时计算 Flink 版（Alibaba Cloud Realtime Compute for Apache Flink，Powered by Ververica）是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统，由 Apache Flink 创始团队官方出品，拥有全球统一商业化品牌，完全兼容开源 Flink API，提供丰富的企业级增值功能。

相关文章

  • 【压缩空气储能】非补燃压缩空气储能系统集成的零碳排放综合能源优化调度（Matlab代码实现）
  • 基于文化优化算法图像量化（Matlab代码实现）
  • 一种专为AI代理设计的内存层，能够在交互过程中记忆、学习和进化
  • LLM推理成本直降60%：PD分离在大模型商业化中的关键价值
  • 手把手带你入门AI智能体：从核心概念到第一个能跑的Agent

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • flink的1cu是指1cpu还是1cpu+4g存储？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • Flink-CDC 文档网站地址是什么？
  • 在斗鱼，实时计算发展的历程如何？
  • flinkcdc启动，怎么修改默认端口号，默认是8081。
  • 在Flink CDC中ogg可以做实时同步吗？
  • 我们在使用阿里云flinksql 往clickhouse写数据的时候发现会丢数据或重复数据，怎么办？
    • 展开全部
  • 数据仓库介绍与实时数仓案例
  • 独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • 流计算StreamCompute
  • 通过Flink实时构建搜索引擎的索引
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 阿里云实时计算产品案例&解决方案汇总
  • 流计算精品翻译: The Dataflow Model
  • 回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
  • 为什么说流处理即未来？
    • 展开全部
    还有其他疑问?
    咨询AI助理