开发者社区> 问答> 正文

Spark Streaming中的Receiver的作用是什么?

Spark Streaming中的Receiver的作用是什么?

展开
收起
游客daliwbfb2wo66 2021-12-07 20:14:22 302 0
1 条回答
写回答
取消 提交回答
  • Receiver负责从外部数据源接收数据,Receiver接收到数据之后,会启动一个BlockGenerator,其会每隔一段时间(可配置,默认是200ms)将Receiver接收到的数据,打包成一个block,每个block除了会保存到所运行的Executor关联的BlockManager中之外,还会发送一份block信息如blockId到Driver端的ReceiverTracker上,其会将一个一个的block信息存入一个HashMap中,key就是时间。

    2021-12-07 20:14:40
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载