开发者社区> 问答> 正文

flink sql检查点是否可恢复问题

下面这些情况下哪些可以让flink sql作业从上一个检查点恢复?

  1. 升级了flink引擎版本 a) 小版本 1.13.1 -> 1.13.2 b) 大版本 1.13.x -> 1.14.x
  2. 修改了sql,分为2种 a) 表schema发生了变化 b) 表schema没变,只是某些字段取值内容发生变化,例如 从 count() 变成 count() + 1
  3. 修改了with options参数,例如 cache大小和时长
  4. 修改了作业配置,例如并行度,资源大小,换了statebackend等*来自志愿者整理的flink邮件归档

展开
收起
moonlightdisco 2021-12-07 17:00:04 877 0
1 条回答
写回答
取消 提交回答
  • Hi!

    关于 Flink 版本升级的问题,小版本之间是兼容的,大版本之间的兼容性见 [1]。 关于修改 SQL 的问题,表 schema 发生变化是不兼容的,某些字段取值发生变化目前没有文档描述,且各算子行为稍有不同,需要尝试一下才能得知。 修改 with 参数应该是兼容的,但部分修改(比如改了 kafka topic)可能会导致报错或非期望行为,比如 offset 越界。 修改作业配置(在不影响最终 plan 的前提下)也是兼容的(例如你提到的这三个配置都是兼容的),更换 statebackend 和调资源正是 savepoint 原本需要解决的问题之一。

    [1] https://nightlies.apache.org/flink/flink-docs-master/docs/ops/upgrading/#compatibility-table*来自志愿者整理的flink邮件归档

    2021-12-07 17:23:05
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
SQL Server在电子商务中的应用与实践 立即下载
GeoMesa on Spark SQL 立即下载
原生SQL on Hadoop引擎- Apache HAWQ 2.x最新技术解密malili 立即下载