备案控制台

开发者社区> 问答> 正文

flink sql 大量数据时 jvm heap飙升，直至taskmanager挂掉

环境信息

flink version: 1.11
jdk version: 1.8.0_231

业务逻辑

使用flink sql注册mysql表，然后进行查询，通过toAppendStream转换为流写入到kudu，发现在flink sql查询期间，由于执行计划中包含cast转换，数据没能达到下一步，一直停止在查询部分，此时 jvm heap极具上升，直到taskmanager oom。

展开

收起

游客2iij56sbammh4 2021-01-26 16:52:26 2017 0

1 条回答

写回答

取消提交回答

游客bu4yjltvhpafe

可以看下flink sql的执行计划，包含cast转换在datasource出来后需要在下一个task中进行cast算子的操作，最后在写stream。 1. 降低stream的batch size，从而降低每个算子的内存开销 2. 将cast操作下推到mysql中执行

2021-03-22 13:56:52

赞同展开评论打赏

问答分类：

SQL Java 关系型数据库 MySQL 流计算实时计算 Flink版云数据库 RDS MySQL 版

问答标签：

SQL数据 SQL flink 实时计算 Flink版数据 flink SQL数据 flink SQL

问答地址：

开发者社区 > 数据库 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

Flink CDC里有没有大神知道为什么 jvm metaspace 不会自动回收啊？

162

2

0

应用实时监控中JVM 的数据是从哪里采集的

20

1

0

Flink Session集群JVM Metaspace内存很高下线任务是否还会占用内存资源

30

0

0

JVM运行时数据区域中的Heap(堆)有什么分类？

22

1

0

JVM运行时数据区域中的Heap(堆)指的是？

25

1

0

JVM运行时数据区域包括什么？有示例图不？

33

1

0

JVM运行时数据区域中的Heap(堆)有什么分类？

22

0

0

JVM运行时数据区域中的Heap(堆)指的是？

28

0

0

flink cdc 在提交任务时怎么设置jvm内存的配置？

65

1

0

Flink CDC任务取消后，这里jvm metaspace不回收为什么？

156

3

0

问答排行榜

最热

最新

1 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家德哥 1818792

2 据说在家办公的程序员是这样写代码的？ 1792833

3 阿里云开放端口权限 690146

4 如何升级配置 536218

5 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522702

6 【精品问答】python技术1000问(1) 514093

7 Flink Forward Asia 2021 有奖问答 512876

8 OceanBase 使用动画（持续更新） 359342

9 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329777

10 OSS存储服务-客户端工具 321496

11 为体验实验室取一个新名字。 307427

12 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 304018

13 Win Server 2003-2016 加密勒索事件必打补丁合集 295287

14 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 284085

15 安全组详解，新手必看教程 277318

16 写code还是做管理，开发者如何进行职业规划？ 268944

17 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255866

18 阿里云手机和阿云浏览器连接问题专帖 235673

19 请问阿里云邮箱如何开启SMTP服务啊！ 225797

20 一个备案号，如何备案多个域名？ 223615

1 slb带宽限制是多少 575

2 P人出游，你是否需要一个懂你更懂规划的AI导游呢？来搭建专属文旅问答机器人吧 437

3 【云端读书会第1期】读《10分钟打造专属AI助手》，你有哪些心得？ 687

4 我在云栖做动手，一起参与吗？ 1559

5 99元云服务器，你最pick哪种新玩法？ 3703

6 打开游戏报错 A D3D11-compatible GPU (Feature Level 11.0， 139

7 请问钉钉知识库里，如何批量下载文件夹里面的文件 432

8 open webui的RAG功能根本用不起来 186

9 全天候24小时无所不知AI助手是如何炼成的？ 1788

10 阿里云百炼的data = json.loads(json_string)是什么意思呀？ 678

11 modelscope-funasr的FunClip怎么安装的？ 685

12 Rabbit MQ 和 Rocket MQ 两者之间有什么区别？ 298

13 RocketMQ cve-2024-23321 漏洞 310

14 最新版本的rocketmq是5.3.0，但是grpc版本的java客户端之间的对应关系是怎么样的？ 131

15 在钉钉中不打开钉钉的情况下可以提醒打上下班卡吗？ 287

16 在钉钉中创建OA审批，上传附件如何操作的？ 302

17 在钉钉中自定义机器人发送消息返回，这个限流是企业级别的还是机器人的？ 692

18 在钉钉中管理员如何查看审批流程中所有正在审批未结束的流程？ 195

19 部署了Nacos2.4.0，开启鉴权，用管理员账号，修密码，就报401错误，啥原因呀？ 651

20 想在宜搭做一个数据分析应用，从硬件获取数据 320

相关课程

更多

如何在 PolarDB-X 中优化慢 SQL

128

2

去学习

SQL完全自学手册

3850

61

去学习

SQL Server on Linux入门教程

4388

14

去学习

SQL入门与实践

11297

6

去学习

数据库及SQL/MySQL基础

6863

22

去学习

SQL进阶及查询

2559

25

去学习

推荐问答

乘风问答官招募中！机械键盘免费拿

相关电子书

更多

SQL Server在电子商务中的应用与实践 立即下载

GeoMesa on Spark SQL 立即下载

原生SQL on Hadoop引擎- Apache HAWQ 2.x最新技术解密malili 立即下载

相关实验场景

更多