Flink之状态一致性

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: 当在分布式系统中引入状态时,自然也引入了一致性问题。一致性实际上是"正确性级别"的另一种说法,也就是说在成功处理故障并恢复之后得到 的结果,与没有发生任何故障时得到的结果相比,前者到底有多正确?举例来说,假设要对 最近一小时登录的用户计数。在系统经历故障之后,计数结果是多少?如果有偏差,是有漏 掉的计数还是重复计数?

当在分布式系统中引入状态时,自然也引入了一致性问题。

一致性实际上是"正确性级别"的另一种说法,也就是说在成功处理故障并恢复之后得到 的结果,与没有发生任何故障时得到的结果相比,前者到底有多正确?举例来说,假设要对 最近一小时登录的用户计数。在系统经历故障之后,计数结果是多少?如果有偏差,是有漏 掉的计数还是重复计数?


(1)一致性级别

在流处理中,一致性可以分为 3 个级别:


at-most-once(最多变一次): 这其实是没有正确性保障的委婉说法——故障发生之后,计数结果可能丢失。

at-least-once(至少一次):这表示计数结果可能大于正确值,但绝不会小于正确值。也就是说,计数 程序在发生故障后 可能多算 ,但是 绝不会少算。

exactly-once(严格变一次):这指的是系统保证在发生故障后得到的计数结果与正确值一致.既不多算也 不少算。

曾经,at-least-once 非常流行。第一代流处理器(如 Storm 和 Samza)刚问世时 只保证 at-least-once,原因有二:


保证 exactly-once 的系统实现起来更复杂。这在基础架构层(决定什么代 表正确,以及 exactly-once 的范围是什么)和实现层都很有挑战性


流处理系统的早期用户愿意接受框架的局限性,并在应用层想办法弥补(例 如使应用程序具有幂等性,或者用批量计算层再做一遍计算)。


最先保证 exactly-once 的系统(Storm Trident 和 Spark Streaming)在性能和 表现力这两个方面付出了很大的代价。为了保证 exactly-once,这些系统无法单独地 对每条记录运用应用逻辑,而是同时处理多条(一批)记录,保证对每一批的处理要么 全部成功,要么全部失败。这就导致在得到结果前,必须等待一批记录处理结束。因 此,用户经常不得不使用两个流处理框架(一个用来保证 exactly-once,另一个用来 对每个元素做低延迟处理),结果使基础设施更加复杂。曾经,用户不得不在保证 exactly-once 与获得低延迟和效率之间权衡利弊。Flink 避免了这种权衡。


Flink 的一个重大价值在于,它 既 保证了 exactly-once , 又 具有 低延迟和高吞 吐 的处理能力。


(2)端到端的状态一致性

目前我们看到的一致性保证都是由流处理器实现的,也就是说都是在 Flink 流处理器 内部保证的;而在真实应用中,流处理应用除了流处理器以外还包含了数据源(例如 Kafka) 和输出到持久化系统。


端到端的一致性保证,意味着结果的正确性贯穿了整个流处理应用的始终;每一个组件 都保证了它自己的一致性,整个端到端的一致性级别取决于所有组件中一致性最弱的组件。


具体划分如下:


source 端:

需要外部源可重设数据的读取位置.

目前我们使用的 Kafka Source 具有这种特性: 读取数据的时候可以指定 offset


flink 内部

依赖 checkpoint 机制


sink 端

需要保证从故障恢复时,数据不会重复写入外部系统. 有 2 种实现形式:


幂等(Idempotent)写入

所谓幂等操作,是说一个操作,可以重复执行很多次,但只导致一次结果更改, 也就是说,后面再重复执行就不起作用了。

事务性(Transactional)写入

需要构建事务来写入外部系统, 构建的事务对应着 checkpoint, 等到 checkpoint 真正完成的时候,才把所有对应的结果写入 sink 系统中。对于事务 性写入,具体又有两种实现方式:预写日志(WAL)和两阶段提交(2PC)

28.png


28.png

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
3月前
|
SQL 数据库 流计算
Flink CDC数据读取问题之一致性如何解决
Flink CDC 使用Change Data Capture (CDC)技术从数据库捕获变更事件,并利用Flink的流处理能力确保数据读取一致性。相较于传统工具,它具备全增量一体化数据集成能力,满足实时性需求。在实践中解决了高效数据同步、稳定同步大量表数据等问题。应用场景包括实时数据同步、实时数据集成等。快速上手需学习基本概念与实践操作。未来发展方向包括提升效率与稳定性,并依据用户需求持续优化。
114 1
|
4月前
|
SQL 关系型数据库 MySQL
实时计算 Flink版产品使用问题之全量和增量同步数据的一致性、不丢失和不重复读取可以通过什么方式保证
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
5月前
|
NoSQL 关系型数据库 MySQL
实时计算 Flink版产品使用问题之如何确保多并发sink同时更新Redis值时,数据能按事件时间有序地更新并且保持一致性
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
消息中间件 存储 算法
Flink---13、容错机制(检查点(保存、恢复、算法、配置)、状态一致性、端到端精确一次)
Flink---13、容错机制(检查点(保存、恢复、算法、配置)、状态一致性、端到端精确一次)
|
存储 关系型数据库 MySQL
如何实现基于Flink的高吞吐、精确一致性数据入湖
APS(ADB Pipeline Service)简介:ADB湖仓版在深化自身湖仓能力建设的同时,还推出了APS(ADB Pipeline Service)数据通道组件,为客户提供实时数据流服务实现数据低成本、低延迟入湖入仓。本文以数据源SLS如何通过APS实现高速精确一致性入湖为例,介绍相关的挑战和解决方法。
|
存储 Java API
Flink 状态清除的演进之路
对于流计算程序来说,肯定会用到状态(state),假如状态不自动清除,并且随着作业运行的时间越来越久,就会累积越多越多的状态,就会影响任务的性能,为了有效的控制状态的大小,Flink从1.6.0开始引入了状态的生存时间(TTL)功能,这样就可以实现自动清理状态,控制状态的大小.本文主要介绍一下Flink从1.6.0开始到1.9.1的状态清理不断的演进之路. Flink1.6.0状态清除 Apache Flink 的 1.6.0 版本引入了状态生存时间特性。它使流处理应用程序的开发人员能够配置算子的状态,使其在定义的生存时间超时后被清除。
|
存储 负载均衡 关系型数据库
基于Flink的高吞吐精确一致性入湖实现
AnalyticDB助力企业降本增效,构建企业级数据分析平台
基于Flink的高吞吐精确一致性入湖实现
|
BI Apache 流计算
Apache Flink 概念介绍:有状态流式处理引擎的基石(二)| 学习笔记
快速学习 Apache Flink 概念介绍:有状态流式处理引擎的基石。
Apache Flink 概念介绍:有状态流式处理引擎的基石(二)| 学习笔记
|
存储 缓存 安全
eBay:Flink的状态原理讲一下……
eBay:Flink的状态原理讲一下……
220 0
eBay:Flink的状态原理讲一下……
|
存储 流计算