开发者社区 问答 正文

kafka整合sparkStreaming采用receiver方式的优缺点是什么?

kafka整合sparkStreaming采用receiver方式的优缺点是什么?

展开
收起
芯在这 2021-12-08 11:40:57 301 分享 版权
1 条回答
写回答
取消 提交回答
  • 采用receiver方式:这种方式可以保证数据不丢失,但是无法保证数据只被处理一次,WAL实现的是At-least-once语义(至少被处理一次),如果在写入到外部存储的数据还没有将offset更新到zookeeper就挂掉,这些数据将会被反复消费. 同时,降低了程序的吞吐量。

    2021-12-08 11:41:17
    赞同 展开评论