开发者社区> 问答> 正文

使用flinksql提供的内置函数LAST_VALUE 发现存的state越来越大的原因是是什么?

补充下具体设置:  使用flink1.10。。开启了mini-batch和设置了idleStateRetentionTime,在最后sink的时候insert into table select a, LAST_VALUE(b) group by a; 有关配置如下:  val tConfig: TableConfig = tEnv.getConfig  tConfig.setIdleStateRetentionTime(Time.hours(1), Time.hours(2))  val configuration = tEnv.getConfig().getConfiguration()  configuration.setString("table.exec.mini-batch.enabled", "true")  configuration.setString("table.exec.mini-batch.allow-latency", "5 s")  configuration.setString("table.exec.mini-batch.size", "5000")  发现状态越来越大。 

请问,有人遇到过这个问题吗?*来自志愿者整理的flink邮件归档

展开
收起
又出bug了-- 2021-12-02 11:31:36 1109 0
1 条回答
写回答
取消 提交回答
  • 我设置了状态过期,如下。使用内置函数LAST_VALUE后,观察lastCheckpointSize大小,发现其越来越大。 。请问,下面的设置对LAST_VALUE会生效吗?我应该怎么处理呢?感谢!  TableConfigtConfig=tableEnv.getConfig();  tConfig.setIdleStateRetentionTime(Time.hours(12),Time.hours(24));*来自志愿者整理的FLINK邮件归档

    2021-12-02 14:17:17
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
Apache Flink 流式应用中状态的数据结构定义升级 立即下载
HBase2.0重新定义小对象实时存取 立即下载
PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final 立即下载