开发者社区> 问答> 正文

Spark中receiver和direct有什么区别?

Spark中receiver和direct有什么区别?

展开
收起
游客fq2cv4o24bhvc 2021-12-07 17:43:34 253 0
1 条回答
写回答
取消 提交回答
  • 1、拉取的方式不同:receiver采用Kafka高级api;direct采用Kafka低级api,直接连接到Kafka的分区

    2、可靠性保证不同:direct可以提供一次且紧一次语义;receiver要保证数据不丢失,需要WAL,提供至少一次的语义

    3、高峰数据量过大的处理不同:receiver只能手动设置最大接收速率,不能自动调节数据接收速率;direct可以使用反压机制自动调节数据接收速率

    2021-12-07 17:47:26
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载