开发者社区> 问答> 正文

Apache Spark Streaming 如何处理端到端一致性和时间事件的支持?

Apache Spark Streaming 如何处理端到端一致性和时间事件的支持?

展开
收起
真的很搞笑 2024-06-17 20:20:11 50 0
1 条回答
写回答
取消 提交回答
  • 由于 Apache Spark Streaming 起源于批处理设计,它对端到端一致性和时间事件的支持并不理想。然而,从 Spark 2.1 开始,新的 Apache Structured Streaming API 引入了基于宽限时间的类水印的数据完整性方案,允许用户通过指定事件时间列和延迟数据的宽限时间来管理延迟数据,以控制流状态的内存使用,例如丢弃延迟事件和删除旧状态。

    2024-06-17 20:42:27
    赞同 3 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载

相关镜像