AI 助理
备案控制台
开发者社区 大数据与机器学习 大数据开发治理DataWorks 正文

问下大佬们就是flink upsert kafka sink 删除数据的时候是只能收到null值吗？

问下大佬们就是flink upsert kafka sink 删除数据的时候是只能收到null值吗，那这种的话我这边如何判断是删除了哪条数据呢？

展开
收起
滴滴滴~ 2023-03-21 14:32:34 433 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

2 条回答
写回答
取消 提交回答
  • 凌云Cloud
    发表文章、提出问题、分享经验、结交志同道合的朋友

    是的，要想判断是删除了哪条数据，可以在发送到 Kafka Sink 之前在 Flink 应用程序中记录一些元数据，比如时间戳、原始数据的 key 或其他标识符等信息。然后在 Kafka Sink 中，可以根据元数据来确定是哪条数据被删除了。

    2023-03-21 18:19:13
    赞同 展开评论
  • 圆葱猪肉包

    upsert–kafka作为消费者的时候依据主键会给你最终的数据，不必关注历史版本。 此答案整理自钉群“Flink CDC 社区”

    2023-03-21 16:44:06
    赞同 展开评论
问答分类：
消息中间件 Kafka 流计算 云消息队列 Kafka 版 大数据开发治理平台 DataWorks 实时计算 Flink版
问答标签：
实时计算 Flink版kafka 云消息队列 Kafka 版flink 实时计算 Flink版Sink 云消息队列 Kafka 版sink 实时计算 Flink版null
问答地址：
开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 问答
相关问答
DataWorks
flink sql输出到upsert kafka 下游再消费一般是upsert 还是 json呀？
71
0
0
Flink报错Partition null table count ODPS tables r...
74
1
0
实时计算Flink提示RowTime field should not be null ple...
142
1
0
Flink upsert metarializer是否支持upsert kafka？
48
0
0
在Flink CDC中,到doris是null的情况 大家遇到过吗？
60
0
0
在Flink CDC中，去掉参数， 自己update， 启动任务，获取到的before还是null？
50
1
0
在Flink CDC中如下源端库加字段is not null场景 同步会报错？
110
1
0
对于Flink CDC，region_id这个字段源库有NULL值，会不会是这个原因？
35
1
0
Flink写入Hologres支持upsert操作吗
56
1
0
在Flink CDC中获取的MySql的数据是upsert流，能不能用什么办法给他转化一下？
63
0
0
大数据与机器学习

大数据开发治理DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

我要提问
收录在圈子:
DataWorks
2704
+ 订阅

相关文章

  • 【亲测有用】数据中台数据标准管理能力演示
  • StarRocks + Paimon 在阿里集团 Lakehouse 的探索与实践
  • Hologres Dynamic Table快速入门
  • JVM实战—6.频繁YGC和频繁FGC的后果
  • StarRocks + Paimon 在阿里集团 Lakehouse 的探索与实践

    • 热门讨论

    热门文章

  • DataWorks我该如何访问A项目安装了项目的package资源？
  • DataWorks中ak 的 都加了管理员角色， 但仍然报 错？
  • 数据来源：com.alibaba.fastjson.JSONException: syntax er
  • "DataWorks问题无法提交，请大家从图片上看一下是哪个依赖的点没有加呢
  • DataWorks failed: ODPS-0130071:[0,0] Semantic ana？
  • 你好，DataWorks中怎么看是怎么收费的？
  • 怎么管理表？
  • dataworks里面的stg层、ods层、dwd层、dws层、是怎么分层的呢？
  • DataWorks中78xxxxx_out的输出是什么?
  • 数据服务报429请求次数过多咋办呀
    • 展开全部
  • DataWorks操作报错合集之配置项目连通oss数据源 , 报The request signature we calculated does not match the signature you provided.如何解决
  • 大数据AI一体化开发再加速：DataWorks 支持GPU类型资源
  • DataWorks售前咨询
  • 2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
  • 使用DataWorks Notebook实现智能图片标注，给你的图片加个“注释”
  • DataWorks：新一代 Data+AI 数据开发与数据治理平台演进
  • 数据中台的智能进化—阿里巴巴十二年数据平台发展历程
  • 限时优惠体验！DataWorks数据治理中心全新升级为数据资产治理
  • 大数据&AI的16种可能，2020阿里云客户最佳实践合集下载
  • DataWorks重磅推出Serverless资源组，实现低成本灵活付费和动态平滑扩缩容
    • 展开全部
    还有其他疑问?
    咨询AI助理