备案控制台

开发者社区> 问答> 正文

数据制作过程中，如何能从Kafka得到准确的信息?

数据制作过程中，如何能从Kafka得到准确的信息?

展开

收起

xin在这 2021-12-12 09:51:29 226 0

1 条回答

写回答

取消提交回答

cuicuicuic

在数据中，为了精确地获得Kafka的消息，你必须遵循两件事: 在数据消耗期间避免重复，在数据生产过程中避免重复。

这里有两种方法，可以在数据生成时准确地获得一个语义:

每个分区使用一个单独的写入器，每当你发现一个网络错误，检查该分区中的最后一条消息，以查看您的最后一次写入是否成功

在消息中包含一个主键(UUID或其他)，并在用户中进行反复制

2021-12-12 09:52:57

赞同展开评论打赏

问答分类：

消息中间件 Kafka 云消息队列 Kafka 版

问答标签：

云消息队列 Kafka 版数据数据云消息队列 Kafka 版云消息队列 Kafka 版信息数据云消息队列 Kafka 版信息

问答地址：

开发者社区 > 微服务 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

Flinkcdc中如果我想基于kafka算好的数据元信息（存CK）基础上使用流计算的话，怎么弄？

41

1

0

DataWorks中Kafka数据迁移MaxCompute最佳实践背景信息是什么？

41

3

0

通过canal同步数据，消费kafka数据时出现了别的数据库里的信息

84

1

0

canal集成kafka后，每变更一次数据，会发送多次信息给kafka

65

1

0

binglog 发送到 Kafka 怎样增加额外的信息表明消息源是哪里

70

1

0

使用原生的mq发到kafka，binlog日志的数据为什么没有偏移量信息。。写代码的时候可以拿到偏移

67

1

0

flink 1.15.3 mysql cdc 2.3.0 同步到kafka 出现了这个异常信息Fa

126

1

0

是在kafka集群的server.prope配置还是在kafka消费者的配置信息里加入这个配置？

245

2

0

有大佬知道这是怎么回事么 flink读不到kafka数据

1067

1

0

麻烦问一下，我们现在的架构是希望数据统一从 Kafka 中出，但是又想用 Flink CDC，请问

1054

1

0

问答排行榜

最热

最新

1 通过阿里云代备案系统进行个人快速备案 2699663

2 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家德哥 1818219

3 据说在家办公的程序员是这样写代码的？ 1792178

4 阿里云开放端口权限 689835

5 《阿里云服务器从入门到精通》—论坛精华帖汇总（2013.8.21更新） 599408

6 如何升级配置 536041

7 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522359

8 【精品问答】python技术1000问(1) 513957

9 Flink Forward Asia 2021 有奖问答 512776

10 Linux Bash严重漏洞修复紧急通知（已全部给出最终修复方案） 456901

11 OceanBase 使用动画（持续更新） 359239

12 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329702

13 OSS存储服务-客户端工具 321271

14 为体验实验室取一个新名字。 307223

15 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 303761

16 Win Server 2003-2016 加密勒索事件必打补丁合集 295126

17 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 283500

18 安全组详解，新手必看教程 277233

19 写code还是做管理，开发者如何进行职业规划？ 268319

20 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255815

1 如何在业务代码中优雅地使用责任链模式？ 286

2 AI技术对开发者的职业天花板是提升还是降低？ 302

3 如何评价 OpenAI 最新发布支持实时语音对话的模型GPT-4o？ 1452

4 为什么程序员害怕改需求？ 782

5 “AI黏土人”一夜爆火，图像生成类应用应该如何长期留住用户？ 802

6 如何连接宜搭应用的数据库，读取指定几张表的数据，通过自己程序的算法处理后把结果数据写入到另一张表中 187

7 多选关联表单，流水号提取， 107

8 关于宜搭连接器预约会议，预约会议成功后发送过来的日程里面，日程前面自动加上了应用管理员的名字 108

9 钉钉宜搭使用手册【应用与页面复制】描述有错别字。 153

10 之前通义灵码参加的活动礼品领取到哪里了 214

11 如何从零构建一个现代深度学习框架? 919

12 AI面试成为线下面试的“隐形门槛”，对此你怎么看？ 1619

13 宜搭JS实现多个子表单汇总到一个子表单内 231

14 请问上次@灵码活动奖品，还没有收到，也没有地方看到是否发货，这活动是不是骗人玩的！！！ 395

15 在宜搭中，用JS写完代码计算出来的数值，如何能用宜搭中的公式进行求和，请老师帮忙解决 100

16 乘风问答官5月排位赛开启！ 641

17 你见过哪些独特的代码注释？ 2228

18 你遇到过哪些触发NPE的代码场景？ 1243

19 请问，我在易搭的数据管理页面里为什么有导出和新增按钮，有时没有导入按钮呢 207

20 宜搭中，线上答题单选题和多选题在一起如何计算总分，请老师指点 392

相关课程

更多

消息队列Kafka入门课程

3098

4

去学习

分布式消息系统 Kafka 快速入门

640

24

去学习

阿里云实时数仓实战 - 数据生成及采集

304

20

去学习

实时数据分析：使用Flink实时发现最热Github项目

404

1

去学习

推荐问答

乘风问答官招募中！机械键盘免费拿

相关电子书

更多

Java Spring Boot开发实战系列课程【第16讲】：Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载

MaxCompute技术公开课第四季之如何将Kafka数据同步至MaxCompute 立即下载

消息队列kafka介绍 立即下载

相关实验场景

更多