开发者社区 问答 正文

窗口间隔和滑动间隔具体是什么呢?

窗口间隔和滑动间隔具体是什么呢?

展开
收起
游客ahv54x37wvm7u 2021-12-13 20:06:12 597 分享 版权
1 条回答
写回答
取消 提交回答
  • 也叫 WriteAheadLogs,通常被用于数据库和文件系统中,保证数据操作的持久性。预写日志通常是先将操作写入到一个持久可靠的日志文件中,然后才对数据施加该操作,当加入施加该操作中出现异常,可以通过读取日志文件并重新施加该操作,从而恢复系统。

    当 WAL 开启后,所有收到的数据同时保存到了容错文件系统的日志文件中,当 Spark Streaming 失败,这些接受到的数据也不会丢失。另外,接收数据的正确性只在数据被预写到日志以后接收器才会确认。已经缓存但还没有保存的数据可以在 Driver 重新启动之后由数据源再发送一次(经常问)。

    这两个机制保证了数据的零丢失,即所有的数据要么从日志中恢复,要么由数据源重发。

    2021-12-13 20:06:28
    赞同 展开评论
问答地址: