如下请问机器学习PAI的这个问题怎么解决？
flinksql消费upsert-kafka每次重启都是重新消费的情况大家有遇到没，有没有办法把消费设置成latest
展开
收起
1
条回答
写回答
写回答
-
是的，FlinkSQL消费UPSERT-Kafka时，每次重启都会从开始位置重新消费，这是Flink的消费模式决定的。Flink默认会从起始位置消费数据，除非你显式地指定了消费的偏移量。
如果你想让FlinkSQL消费UPSERT-Kafka时从最新的偏移量开始消费，你可以通过设置
startingOffset属性来实现。在你的FLINK_HOME/conf/flink-conf.yaml文件中，添加以下配置：job.default-parallelism: 1 execution.checkpointing.interval: 60000 execution.checkpointing.timeout: 60000 table.exec.source.auto-offset-reset: latest这样，FlinkSQL就会从最新的偏移量开始消费UPSERT-Kafka的数据。
2023-11-30 13:44:26赞同 展开评论 打赏
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
热门讨论
热门文章
为什么我的天池notebook中，无法创建notebook文件，也无法显示我的天池文档等内容。
727
如何高效的往交互建模（dsw）上传较大的文件，有从阿里云盘中直接下载或类似的方法吗？
3720
modelscope 里面的模型用pipeline 做推理太慢怎样提高推理速度
981
小白想问一下nas上面的模型怎么通过pai-eas进行使用
1919
PAI有资源却报错，无法提交怎么解决?
175
Stable Diffusion怎么部署，要多少费用？
473
Completions 说调用成功，但不返回内容
20
ide:VSCODE,通义灵码,对于 _ - 识别出现了问题么？
16
请问PAI-DSW实例服务器ping不通google.com该怎么解决？
238
通义灵码 idea版本的代码提示如何设置？
710
展开全部
【玩转数据系列二】机器学习应用没那么难，这次教你玩心脏病预测
27150
【玩转数据系列六】文本分析算法实现新闻自动分类
19345
阿里巴巴机器学习系列课程
15774
【玩转数据系列十三】机器学习算法基于信用卡消费记录做信用评分
14868
【玩转数据系列五】农业贷款发放预测
11483
【玩转数据系列四】听说啤酒和尿布很配？本期教你用协同过滤做推荐
14677
【玩转数据系列八】机器学习算法的离线调度实现-广告CTR预测
10682
FM算法介绍
11691
PAI实现的深度学习网络可视化编辑功能-FastNeuralNetwork
6931
【玩转数据系列十六】机器学习PAI通过声音分辨男女（含语音特征提取相关数据和代码）
8116
展开全部
