flink将checkpoint写入到hdfs中七天之后token过期-问答-阿里云开发者社区-阿里云

开发者社区> 问答> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

flink将checkpoint写入到hdfs中七天之后token过期

2018-11-09 12:22:06 5121 2

IMG20181109_121755

使用flink进行实时计算的时候 将checkpoint写入到hdfs中,只要是超过七天之后token自动过期 checkpoint执行不成功,但是程序正常运行,数据没有报错,就是token正常过期 我们在yarn里面配置了自动续期,但是不生效,有遇到这种问题的?请赐教;
报错信息如下:2018-11-09 14:06:31,421 WARN org.apache.hadoop.ipc.Client - Exception encountered while connecting to the server : org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.token.SecretManager$InvalidToken): token (HDFS_DELEGATION_TOKEN token 10498741 for portal) can't be found in cache
2018-11-09 14:06:31,421 WARN org.apache.flink.runtime.checkpoint.CheckpointCoordinator - Failed to trigger checkpoint for job 2766479d421e1403675ed8592cd804e0 (1693 consecutive failed attempts so far).
org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.token.SecretManager$InvalidToken): token (HDFS_DELEGATION_TOKEN token 10498741 for portal) can't be found in cache

at org.apache.hadoop.ipc.Client.call(Client.java:1476)
at org.apache.hadoop.ipc.Client.call(Client.java:1413)
at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:229)
at com.sun.proxy.$Proxy10.mkdirs(Unknown Source)
at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolTranslatorPB.mkdirs(ClientNamenodeProtocolTranslatorPB.java:563)
at sun.reflect.GeneratedMethodAccessor61.invoke(Unknown Source)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:191)
at org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:102)
at com.sun.proxy.$Proxy11.mkdirs(Unknown Source)
at org.apache.hadoop.hdfs.DFSClient.primitiveMkdir(DFSClient.java:3014)
at org.apache.hadoop.hdfs.DFSClient.mkdirs(DFSClient.java:2984)
at org.apache.hadoop.hdfs.DistributedFileSystem$21.doCall(DistributedFileSystem.java:1047)
at org.apache.hadoop.hdfs.DistributedFileSystem$21.doCall(DistributedFileSystem.java:1043)
at org.apache.hadoop.fs.FileSystemLinkResolver.resolve(FileSystemLinkResolver.java:81)
at org.apache.hadoop.hdfs.DistributedFileSystem.mkdirsInternal(DistributedFileSystem.java:1061)
at org.apache.hadoop.hdfs.DistributedFileSystem.mkdirs(DistributedFileSystem.java:1036)
at org.apache.hadoop.fs.FileSystem.mkdirs(FileSystem.java:1880)
at org.apache.flink.runtime.fs.hdfs.HadoopFileSystem.mkdirs(HadoopFileSystem.java:170)
at org.apache.flink.runtime.state.filesystem.FsCheckpointStorage.initializeLocationForCheckpoint(FsCheckpointStorage.java:96)
at org.apache.flink.runtime.checkpoint.CheckpointCoordinator.triggerCheckpoint(CheckpointCoordinator.java:511)
at org.apache.flink.runtime.checkpoint.CheckpointCoordinator.triggerCheckpoint(CheckpointCoordinator.java:394)
at org.apache.flink.runtime.checkpoint.CheckpointCoordinator$ScheduledTrigger.run(CheckpointCoordinator.java:1235)
at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511)
at java.util.concurrent.FutureTask.runAndReset(FutureTask.java:308)
at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.access$301(ScheduledThreadPoolExecutor.java:180)
at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.run(ScheduledThreadPoolExecutor.java:294)
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
at java.lang.Thread.run(Thread.java:745)
取消 提交回答
全部回答(2)
  • 游客corbtsugsx25g
    2022-08-29 16:53:05

    博主有解决吗,我也遇到了这个问题

    0 0
  • kindle
    2019-07-17 23:13:13

    图片看不太清,hdfs token renew 我没理解错的话需要重启作业才能生效

    0 0
添加回答
相关问答

1

回答

Flink写hdfs提交任务就报错

2021-12-08 15:46:10 819浏览量 回答数 1

1

回答

Flink CDC中的CDC是什么意思?

2022-01-19 15:15:09 4591浏览量 回答数 1

1

回答

Flink CDC 的亮点之一是什么?

2022-01-19 16:21:12 617浏览量 回答数 1

1

回答

Flink CDC 的核心特性有哪些?

2022-01-19 16:17:42 609浏览量 回答数 1

1

回答

Flink CDC 和 Flink 的版本对应关系是怎么样的?

2022-01-19 16:25:14 1295浏览量 回答数 1

1

回答

有关 Flink CDC 的介绍和教程可以在哪里参考到?

2022-01-19 16:35:16 1550浏览量 回答数 1

1

回答

Flink CDC 的下游支持了哪些数据源?

2022-01-19 16:09:35 777浏览量 回答数 1

1

回答

基于 Flink CDC 的聚合分析图是什么样的?

2022-01-19 15:23:33 2626浏览量 回答数 1

1

回答

flink 1.11 cdc相关问题

2021-12-07 10:07:48 709浏览量 回答数 1

1

回答

Flink1.11支持CDC了是么? #Flink

2020-06-10 23:24:45 1725浏览量 回答数 1
+关注
文章
问答
问答排行榜
最热
最新
相关电子书
更多
HBase 高可用HA
立即下载
Get rid of traditional ETL, Move to Spark!
立即下载
任庆盛|Flink CDC + Kafka 加速业务实时化
立即下载