Flink,Storm,SparkStreaming性能对比

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
简介: Flink,Storm,SparkStreaming性能对比

Yahoo 的 Storm 团队曾发表了一篇博客文章 ,并在其中展示了 Storm、Flink 和 Spark Streaming 的性能测试结果。该测试对于业界而言极 具价值,因为它是流处理领域的第一个基于真实应用程序的基准测试。

image.png

该应用程序从 Kafka 消费广告曝光消息,从 Redis 查找每个广告对应的广 告宣传活动,并按照广告宣传活动分组,以 10 秒为窗口计算广告浏览量。10 秒窗口的最终结果被存储在 Redis 中,这些窗口的状态也按照每秒记录 一次的频率被写入 Redis,以方便用户对它们进行实时查询。

在最初的性能 测评中,因为 Storm 是无状态流处理器(即它不能定义和维护状态),所以 Flink 作业也按照无状态模式编写。所有状态都被存储在 Redis 中。

image.png

在性能测评中,Spark Streaming 遇到了吞吐量和延迟性难 两全的问题。随着批处理作业规模的增加,延迟升高。如果为了降低延迟而缩减规模,吞吐量就会减少。Storm 和 Flink 则可以在吞吐量增加时维持低延迟。

image.png

为了进一步测试 Flink 的性能,测试人员设置了一系列不同的场景,并逐步测试。

最初的性能测评专注于在相对较低的吞吐量下,测量端到端的延迟,即 使在极限状态下,也不关注容错性。此外,应用程序中的 key 基数非常小 (100),这使得测试结果无法反映用户量大的情况,或者 key 空间随着时间增长的情况.

由于最初的测试结果显示 Spark Streaming 的性能欠佳,因此这次的测试对 象只有 Storm 和 Flink,它们在最初的测试中有着类似的表现。

第 1 个变化是利用 Flink 提供的状态容错特性重新实现应用程序,如图 5-15 所示。这使得应用程序能保证 exactly-once。

第 2 个变化是通过用每秒可以生成数百万事件的数据生成器来增加输入流 的数据量。

结果如下:

image.png

使用高吞吐数据生成器的结果:(A)当Storm 与 Kafka 一起使用时,应用程序可以保持每秒 40 万事件的处理速度,并且瓶颈在于 CPU;当 Flink 与 Kafka 一起使用时,应用程序可以保持每秒300 万事件的处理速度,并且瓶颈在于网络;

(B)当消除网络瓶颈时,Flink 应用程序可以保持每秒1500 万事件的处理速度;

(C)在额外的测试中,消息队列由MapR Streams 提供,并且采用10 个高性能网络节点(硬件与前两种情况中的不同);Flink 应用程序可以保持每秒1000 万事件的处理速度.

Storm 能够承受每秒 40 万事件,但受限于 CPU;Flink 则可以达到每秒 300 万事件(7.5 倍),但受限于 Kafka 集群和 Flink 集群之间的网络。

为了看看在没有网络瓶颈问题时 Flink 的性能如何,我们将数据生成器移到 Flink 应用程序的内部。在这样的条件下,Flink 可以保持每秒 1500 万事件的处理速度(这是 Storm 的 37.5 倍)

image.png

将数据生成器整合到 Flink 应用程序中,可以测试性能极限,但这种 做法并不现实,因为现实世界中的数据必须从应用程序的外部流入。

值得注意的是,这绝对不是 Kafka 的极限(Kafka 可以支撑比这更大的吞吐量),而仅仅是测试所用的硬件环境的极限——Kafka 集群和 Flink 集群 之间的网络连接太慢。

最后一个变化是增加 key 基数(广告宣传活动的数量)。在最初的测试中, key 基数只有 100。这些 key 每秒都会被写入 Redis,以供查询。当 key 基数 增加到 100 万时,系统的整体吞吐量减少到每秒 28 万事件,因为向 Redis写入成了系统瓶颈。使用 Flink 可查询状态的一个早期原型可以消除这种瓶颈,使系统的处理速度恢复到每秒 1500 万事件,并 且有 100 万个 key 可供查询.

image.png

通过将查询功能移入Flink 可查询状态的一个原型,系统甚至可以在key 基数非常大的情况下仍然维持每秒 1500 万事件的处理速度.

image.png

本例说明了什么呢?通过避免流处理瓶颈,同时利用 Flink 的有状态流处理 能力,可以使吞吐量达到Storm 的 30 倍左右,同时还能保证exactly-once 和高可用性。大致来说,这意味着与 Storm 相比,Flink 的硬件成本或云计算成本仅为前者的 1/30,同样的硬件能处理的数据量则是前者的 30 倍。

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
9月前
|
分布式计算 Hadoop 大数据
一口气说完MR、Storm、Spark、SparkStreaming和Flink
一口气说完MR、Storm、Spark、SparkStreaming和Flink
|
17天前
|
运维 监控 Java
面经:Storm实时计算框架原理与应用场景
【4月更文挑战第11天】本文是关于Apache Storm实时流处理框架的面试攻略和核心原理解析。文章分享了面试常见主题,包括Storm的架构与核心概念(如Spout、Bolt、Topology、Tuple和Ack机制),编程模型与API,部署与运维,以及应用场景与最佳实践。通过代码示例展示了如何构建一个简单的WordCountTopology,强调理解和运用Storm的关键知识点对于面试和实际工作的重要性。
30 4
面经:Storm实时计算框架原理与应用场景
|
4月前
|
数据处理 数据库 流计算
Flink-CDC 的性能与许多因素有关
【1月更文挑战第23天】【1月更文挑战第114篇】Flink-CDC 的性能与许多因素有关
48 6
|
5月前
|
监控 API 数据处理
Flink web ui不仅仅是一个监控指标性能的网站
Flink web ui不仅仅是一个监控指标性能的网站
98 3
|
12月前
|
Cloud Native 大数据 Java
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(1)
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(1)
118 0
|
12月前
|
缓存 监控 Cloud Native
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(2)
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(2)
|
12月前
|
分布式计算 Cloud Native 大数据
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(3)
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(3)
|
12月前
|
消息中间件 监控 Cloud Native
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(4)
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(4)
|
12月前
|
Cloud Native 大数据 Java
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(5)
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(5)
|
12月前
|
Cloud Native 大数据 流计算
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(6)
带你读《企业级云原生白皮书项目实战》——5.3.3 任务性能(6)