AI 助理
备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 正文

spark写kafka，如何让分区分布均衡呢？

spark写kafka，如何让分区分布均衡呢？ f8baaba8a06209af5a40242e04757bec.png

展开
收起
爱喝咖啡嘿 2022-12-21 13:22:09 370 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 范zzhaha

    是因为没有指定key吗，你把topic删除重新建然后重新跑——此答案整理自钉群“HBase生态+Spark社区大群”

    2022-12-21 15:36:09
    赞同 展开评论
问答分类：
消息中间件 分布式计算 Kafka Spark 云消息队列 Kafka 版
问答标签：
云消息队列 Kafka 版分区 apache spark kafka spark云消息队列 Kafka 版 apache spark分区 云消息队列 Kafka 版均衡
问答地址：
开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 问答
相关问答
flink cdc datastream方式同步mysql数据到kafka，多分区怎么保证有序性？
122
1
0
kafka topic多个分区，同一个broker是什么情况？
66
0
0
为什么选择从Kafka + Spark Streaming转向Flink？
75
1
0
针对Lindorm数据源分区数量少导致Spark执行效率低的问题，有哪些处理策略？
58
1
0
调整Spark读取ODPS离线表分区大小的方法是什么？
89
1
0
dataworks读kafka写maxcompute按照这个update_time分区要怎么排查？
84
0
0
Spark Structured Streaming 和 Kafka 在数据完整性推理上有何不足？
93
1
0
消息队列Kafka版Topic分区数可以减少吗
117
1
0
消息队列Kafka版分区数为什么建议是2的倍数
90
1
0
消息队列Kafka版topic原本有12个分区增加分区后会影响线上业务吗
156
1
0
大数据与机器学习

开源大数据平台 E-MapReduce

阿里云EMR是云原生开源大数据平台，为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎，计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

我要提问

相关文章

  • 多智能体系统设计：5种编排模式解决复杂AI任务
  • 从纳秒到毫秒的“时空之旅”：CPU是如何看待内存与硬盘的？
  • 【赵渝强老师】阿里云大数据MaxCompute的体系架构
  • 如何做好SQL质量监控
  • 分布式爬虫的全局请求间隔协调与IP轮换策略

    • 热门讨论

    热门文章

  • Mem usage has exceed the limit of BE - com.mysql.j
  • 核桃编程是什么？
  • Apache Spark 3.0 是什么？
  • 升级完，现有spark起不来了
  • hdfs 文件块过多（1亿）每个datanode 占3000万块(分16G内),某时刻内存陡然增加？
  • 大佬，可以请教下，有没有遇到 com.aliyun.oss
  • NeuSoft是什么？
  • 请教个问题，我想部署 1FE 节点 + 3BE节点的 StarRocks 集群， 在 EMR 控制台
  • 请问starrocks用smt工具，执行./starrocks-migrate-tool,自动构建f
  • 买好emr以后，dms可以连接使用starrocks吗
    • 展开全部
  • E-Mapreduce如何处理RDS的数据
  • E-MapReduce上如何升级EMR-Core
  • 开源大数据周刊-第69期
  • StarRocks+Paimon 落地阿里日志采集：万亿级实时数据秒级查询
  • Data Lake 三剑客——Delta、Hudi、Iceberg 对比分析
  • 阿里巴巴的通义千问大模型
  • 阿里云EMR Serverless StarRocks 内容合集
  • Paimon 与 Spark 的集成（二）：查询优化
  • 不是吧？这么好用的开源标注工具，竟然还有人不知道…
  • 鹰角网络：EMR Serverless Spark 在《明日方舟》游戏业务的应用
    • 展开全部
    还有其他疑问?
    咨询AI助理