问题一:Flink如何设置表级别的超时时间呢?
Flink中sql里边社区全局超时时间是table.exec.state.ttl,如何设置表级别的超时时间呢?
参考答案:
flink 1.18才支持
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/602759
问题二:Flink这里的启动时间为啥相差8小时啊,用的 flink on k8s 如何解决?
Flink这里的启动时间为啥相差8小时啊,用的 flink on k8s ?
容器和 k8s nodes 时间都是对的啊
参考答案:
Flink在Kubernetes上启动时间相差8小时的问题,通常是由于时区设置不一致导致的。要解决这个问题,您需要确保Flink的时区设置与您的Kubernetes集群所在时区一致。具体操作如下:
- 修改Flink配置文件:您需要在Flink的配置文件
flink-conf.yaml
中设置Java的系统时区。可以在env.java.opts.jobmanager
和env.java.opts.taskmanager
下添加-Duser.timezone=GMT+08
,以设置时区为北京时间。 - 设置环境变量:在提交Job时,可以通过设置
FLINK_PROPERTIES
环境变量来指定user.timezone
属性,确保Flink使用的时区正确。 - 检查容器和节点时间:确认Kubernetes节点以及运行Flink的容器中的时间是正确的。有时虽然节点时间是正确的,但容器内时间可能没有同步,这也会导致时间差异。
- 调整日志时间:如果您发现日志输出时间不正确,也需要检查并调整Flink的日志时间设置,确保它们反映的是准确的时间。
- 使用工具箱:考虑使用Flink Kubernetes Toolbox,这是一个用于在Kubernetes上部署和管理Apache Flink的工具,可能会提供一些简化操作的帮助。
- 查阅官方文档:参考Flink官方文档中关于在Kubernetes上部署集群的指导,可能会有更多关于时区设置的相关说明。
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/602758
问题三:Flink这个情况下是不是使用rocksdb比较好?
Flink这边运行的实时任务就是通过flinkcdc将源端的增量数据实时同步到目标端。这个情况下是不是使用rocksdb比较好?
参考答案:
如果是cdc的话,rocksdb就行
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/602756
问题四:flink是配置rocksdb比较好还是filesystem这个比较好?
flink的state.backend参数配置对于大量长时间运行的实时任务,是配置rocksdb比较好还是filesystem这个比较好,现在使用的是默认的配置,长时间运行会导致内存耗尽了?
参考答案:
rocksdb vs filesystem 差异主要体现在:
- rocksdb 使用本地存储,而filesystem使用外部存储,理论上存储空间不受限。
- rocksdb io快,filesystem io慢。
上面的这两点和任务的运行时间长短没关系,长时间运行的任务也可以不占用大的状态,这个和业务逻辑有关。
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/602755
问题五:Flink CDC 里sqlserver和postgres会支持指定时间消费吗?
Flink CDC 里sqlserver和postgres会支持指定时间消费吗?
参考答案:
应该不支持
关于本问题的更多回答可点击进行查看: