开发者社区> 问答> 正文

有什么更好的方法能对rocksdb的有效期进行设置吗?

我们现在启用state.backend.rocksdb.ttl.compaction.filter.enabled进行rocksdb的有效期设置,但效果并不是那么理想。 同时我也有以下问题想不明白: 1、如果rocksdb在compact的时候有些state并没有被compact到,是否就意味着就算这些state已经过期也不会被删除? 2、目前flink的ttl策略只有OnCreateAndWrite和OnReadAndWrite两种策略,是否有那种不需要刷新,到了TTL时间就自动清除。 否则就会出现state一直在刷新导致永远无法删除,最终导致磁盘打满

目前我能想到的方案是,另外写一个定时任务根据配置去清除过期state。 请问大家还有其他更好的方案吗?*来自志愿者整理的FLINK邮件归档

展开
收起
玛丽莲梦嘉 2021-12-03 18:40:52 1932 0
1 条回答
写回答
取消 提交回答
  • 1 不参加 compaction 的不会被删除 2 TTL state 暂时无法做到一到时间就清除(我理解你这里担心不删除会有磁盘打满的风险),实际上现在会周期性的清理 state 的。另外如果你真的希望严格控制 state 的过期时间,或者你可以尝试下 ProcessFunction[1] 自己使用 Timer 相关的来控制 State 的生命周期

    [1] https://ci.apache.org/projects/flink/flink-docs-release-1.10/dev/stream/operators/process_function.html*来自志愿者整理的FLINK邮件归档

    2021-12-03 19:02:39
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
基于etcd的超大规模生产级弹性键值存储实践与优化 立即下载
热点Key的发现与解决之道 立即下载
重新出发:阿里云数据库开源整体策略 立即下载