AI 助理
备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 正文

spark写kafka，如何让分区分布均衡呢？

spark写kafka，如何让分区分布均衡呢？ f8baaba8a06209af5a40242e04757bec.png

展开
收起
爱喝咖啡嘿 2022-12-21 13:22:09 372 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 范zzhaha

    是因为没有指定key吗，你把topic删除重新建然后重新跑——此答案整理自钉群“HBase生态+Spark社区大群”

    2022-12-21 15:36:09
    赞同 展开评论
问答分类：
消息中间件 分布式计算 Kafka Spark 云消息队列 Kafka 版
问答标签：
云消息队列 Kafka 版分区 apache spark kafka spark云消息队列 Kafka 版 apache spark分区 云消息队列 Kafka 版均衡
问答地址：
开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 问答
相关问答
kafka可以一个topic得多个分区在同一个broker上吗？
222
1
0
kafka topic多个分区，同一个broker是什么情况？
70
0
0
为什么选择从Kafka + Spark Streaming转向Flink？
78
1
0
针对Lindorm数据源分区数量少导致Spark执行效率低的问题，有哪些处理策略？
60
1
0
调整Spark读取ODPS离线表分区大小的方法是什么？
94
1
0
dataworks读kafka写maxcompute按照这个update_time分区要怎么排查？
87
0
0
在Flink CDC中MySQL整库同步，Kafka Pipeline 不支持指定 分区吗？
117
1
0
在Flink CDC中写入kafka，这个默认是根据什么分区的，表的主键吗？
116
1
0
Spark Structured Streaming 和 Kafka 在数据完整性推理上有何不足？
95
1
0
消息队列Kafka版Topic分区数可以减少吗
124
1
0
大数据与机器学习

开源大数据平台 E-MapReduce

阿里云EMR是云原生开源大数据平台，为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎，计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

我要提问

相关文章

  • 基于差分进化算法的微电网调度研究（Matlab代码实现）
  • 五个让抓取流程更可控的小技巧
  • 安装篇--CentOS 7 虚拟机安装
  • 终于！大数据分析不用再“又要快又要省钱”二选一了！Dataphin新功能太香了！
  • 基于多尺度集成极限学习机回归（Matlab代码实现）

    • 热门讨论

    热门文章

  • 核桃编程是什么？
  • 想问问大家clickhouse 怎么查嵌套了多重的json数据 ？
  • E-MapReduce由于某些未知错误、异常或失败，请求处理失败？
  • NeuSoft是什么？
  • Databricks 和 Dataworks 都是一站式的数据分析平台，两者的区别是什么？
  • 各位大佬， 使用 StarRocks 的时候， 有遇到过这种情况么？怎么办？
  • 一个单表 ，几万数据，select一次30多s,主要时间这块是啥说数据传输时间吗
  • Delta Lake 表如何删除操作？
  • EMR 有什么特性？
  • 数据湖存储OSS是什么？
    • 展开全部
  • 阿里封神谈hadoop生态学习之路
  • 分布式快照算法: Chandy-Lamport
  • 5W1H(六何分析法)全景洞察大数据
  • Apache Spark 3.0 将内置支持 GPU 调度
  • 钉钉群直播【Spark Relational Cache 原理和实践】
  • HAS-插件式Kerberos认证框架
  • 开源大数据周刊-第61期
  • csv导入HBase
  • 11月14日Spark社区直播【 Spark on Kubernetes & YARN】
  • E-MapReduce中Spark 2.x读写MaxCompute数据
    • 展开全部
    还有其他疑问?
    咨询AI助理