AI 助理
文档备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

有大佬之后Flink CDC中如何提升增量数据的读取速度么？存量数据大概每秒2W，增量数据只有

有大佬之后Flink CDC中如何提升增量数据的读取速度么？存量数据大概每秒2W，增量数据只有2000，确实是只有1，就是在想还有没有其他方案。能够提升速度的，因为另一个库在批量去写，所以每秒能达到2000，在加点内存试试吧

展开
收起
真的很搞笑 2023-06-18 13:44:52 204 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    增量数据并行度只有1，中间没什么复杂操作就加点内存看看处理速度，1秒2000条，也是有点变换的很快啦，批量写也是少数情况，这种还是很正常的事情，慢慢就追回来了，此回答整理自钉群“Flink CDC 社区”

    2023-06-18 14:33:33
    赞同 展开评论
问答分类：
流计算 实时计算 Flink版
问答标签：
实时计算 Flink版CDC 实时计算 Flink版数据 实时计算 Flink版cdc数据 实时计算 Flink版增量 实时计算 Flink版增量数据
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
Flink增量快照有什么优势
131
1
0
Flink CDC OceanBase Connector 如何处理全量数据和增量数据？
164
1
0
为什么选择Flink和Hudi作为增量化方案的核心组件？
145
1
0
Flink 1.15 如何通过原生增量 Savepoint 解决 Savepoint 性能较差的问题
147
1
0
在Flink CDC中,SQL server 3.1.1，无法从存量切到CDC增量，有啥解决方案吗?
173
0
0
使用Flink cdc 任务的检查点设置为增量的，看checkpoint确实是一增量的方式在保存吗？
117
0
0
在Flink CDC中oceanbase oracle initial模式全量转增量读取报错怎么办？
393
7
0
Flink线上存量的作业怎么拉取呢？
87
1
0
Flink CDC里使用initial模式, 转增量之后，存量数据会丢吗？
147
0
0
Flink CDC里又遇到表全量同步后，不会继续增量同步。大佬们 有没有排查问题的思路呀？
130
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 基于Flink CDC的企业级日志实时入湖入流解决方案
  • Flink 实时计算 x SLS 存储下推：阿里云 OpenAPI 网关监控平台实践
  • 【最优潮流】二阶锥松弛在配电网最优潮流计算中的应用（Matlab代码实现）
  • 数仓-湖仓-湖流，人力家基于阿里云OpenLake架构演进与思考
  • 9B 上端侧：多模态实时对话，难点其实在“流”

    • 相关解决方案

    更多
  • Flink CDC 实现企业级实时数据同步
  • 基于数据闪回，快速恢复数据
  • 分析 Agent 实现一键 AI 数据洞察
  • 多模态数据信息提取
  • 高效存储和处理多媒体数据

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 哪位有编译好的cdc 2.2.0版本能能试用flink 1.14.2的包呀？
  • flink1.19和hive3.1.3，cdc从mysql同步数据到hive，插入时报错？
  • 在Flink CDC中，直接将我生成的application会话kill掉了,有人遇到过吗？
  • Flink有2023 Flink Forward Asia 资料下载地址吗?
  • pyflink在读取hdfs文件的时候如何使用通配符？
  • Flink1.10 python API 对流式处理的支持度如何，能直接用于生产吗？
  • 有大佬遇到过flink web ui上的指标都是loading状态吗，flink版本是1.17.1？
  • 提交flink命令后 运行时会优先加载 lib下面的jar包吗？严重怀疑平台提供的cdc不是2.1
  • 大佬们，请教下，Flink CDC2.4.0版本的mysql cdc，怎么设置时区"？
    • 展开全部
  • 数据仓库介绍与实时数仓案例
  • 独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 阿里云实时计算产品案例&解决方案汇总
  • 流计算精品翻译: The Dataflow Model
  • 回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
  • 基于实时计算（Flink）打造一个简单的实时推荐系统
  • Flink Checkpoint 问题排查实用指南
  • 史上超强阵容！大数据及人工智能领域顶级盛会，Flink Forward Asia 2019 不容错过！
    • 展开全部
    还有其他疑问?
    咨询AI助理