Storm概念学习系列之什么是实时流计算?-阿里云开发者社区

开发者社区> 技术小哥哥> 正文

Storm概念学习系列之什么是实时流计算?

简介:
+关注继续查看

什么是实时流计算?

      1、实时流计算背景  

  2、实时计算应用场景

  3、实时计算处理流程

  4、实时计算框架

 

 

 

 

 

什么是实时流计算?

      所谓实时流计算,就是近几年由于数据得到广泛应用之后,在数据持久性建模不满足现状的情况下,急需数据流的瞬时建模或者计算处理这种实时计算的应用实例有金融服务、网络监控、电信数据管理、 Web 应用、生产制造、传感检测,等等。在这种数据流模型中,单独的数据单元可能是相关的元组(Tuple),如网络测量、呼叫记录、网页访问等产生的数据。但是,这些数据以大量、快速、时变(可能是不可预知)的数据流持续到达,由此产生了一些基础性的新的研究问题——实时计算。实时计算的一个重要方向就是实时流计算。



 

 

实时流计算背景  

  数据的价值随着时间的流逝而降低,所以事件出现后必须尽快对它们进行处理,最好事件出现时便立刻对其进行处理,发生一个事件进行一次处理,而不是缓存起来成一批处理。例如商用搜索引擎,像 Google、 Bing 和 Yahoo! 等,通常在用户查询响应中提供结构化的Web 结果,同时也插入基于流量的点击付费模式的文本广告。为了在页面上的最佳位置展现最相关的广告,通过一些算法来动态估算给定上下文中一个广告被点击的可能性。上下文可能包括用户偏好、地理位置、历史查询、历史点击等信息。一个主搜索引擎可能每秒钟处理成千上万次查询,每个页面都可能会包含多个广告。为了及时处理用户反馈,需要一个低延迟、可扩展、高可靠的处理引擎。

  对于这些实时性要求很高的应用,若把持续到达的数据简单地放到传统数据库管理系统DBMS)中,并在其中进行操作,是不切实际的。传统的 DBMS 并不是为快速连续地存放单的数据单元而设计的,而且也不支持“持续处理”,而“持续处理”是数据流应用的典型特征。另外,现在人们都认识到,“近似性”和“自适应性”是对数据流进行快速查询和其处理(如数据分析和数据采集)的关键要素,而传统 DBMS 的主要目标恰恰与之相反:通稳定的查询设计,得到精确的答案。

  另外一些方案是采用 MapReduce 来处理实时数据流。但是,尽管 MapReduce 做了实时性改进,也很难稳定地满足应用需求。这是因为 Hadoop MapReduce 框架为批处理做了高度优化,典型的是通过调度批量任务来操作静态数据,任务不是常驻服务,数据也不是实时流入;而数据流计算的典型范式之一是不确定数据速率的事件流流入系统,系统处理能力必须与事件流量匹配。

 

 

 



实时计算应用

  互联网领域的实时流计算一般都是针对海量数据进行的,除了非实时计算的需求(如计算结果准确)以外,实时计算最重要的一个需求是能够实时响应计算结果,一般要求为秒级。个人理解,互联网行业的实时计算可以分为以下两种应用场景。
1)数据源是实时的、不间断的,要求对用户的响应时间也是实时的。主要用于互联网流式数据处理。所谓流式数据,是指将数据看作数据流的形式来处理。数据流则是在时间分布和数量上无限的一系列数据记录的集合体;数据记录是数据流的最小组成单元。例如,对于大型网站,活跃的流式数据非常常见,这些数据包括网站的访问 PV/UV、用户访问的内容、搜索的内容等。实时的数据计算和分析可以动态实时地刷新用户访问数据,展示网站实时流量的变化情况,分析每天各小时的流量和用户分布情况,这对于大型网站来说具有重要的实际意义。
2)数据量大且无法或没必要预算,但要求对用户的响应时间是实时的。主要用于特定场合下的数据分析处理。当数据量很大,同时发现无法穷举所有可能条件的查询组合或者大量穷举出来的条件组合无用时,实时计算就可以发挥作用,将计算过程推迟到查询阶段进行,但需要为用户提供实时响应。

 

 

 



实时计算处理流程

  互联网上海量数据(一般为日志流)的实时计算过程可以划分为 3 个阶段:数据的产生与收集阶段、传输与分析处理阶段、存储对对外提供服务阶段,如图 1-1 所示。下面分别进行简单介绍。

                            图 1  实时计算处理流程

 

   (1)数据实时采集
需求:功能上保证可以完整地收集到所有日志数据,为实时应用提供实时数据;响应时间上要保证实时性、低延迟(在 1s 左右);配置简单,部署容易;系统稳定可靠等。
目前,互联网企业的海量数据采集工具有 Facebook 开源的 Scribe、 LinkedIn 开源的Kafka、 Cloudera 开源的 Flume,淘宝开源的 TimeTunnel、 Hadoop 的 Chukwa 等,它们均可以满足每秒数百 MB 的日志数据采集和传输需求。


 (2)数据实时计算
传统的数据操作,首先将数据采集并存储在 DBMS 中,然后通过查询和 DBMS 进行交互,得到用户想要的答案。在整个过程中,用户是主动的,而 DBMS 系统是被动的,过程操作如图 1-2 所示。

                              图 2 传统的数据操作流程

  但是,对于现在大量存在的实时数据,如股票交易的数据,这类数据实时性强,数据量大,没有止境,传统的架构并不合适。流计算就是专门针对这种数据类型准备的。在流数据不断变化的运动过程中实时地进行分析,捕捉到可能对用户有用的信息,并把结果发送出去。在整个过程中,数据分析处理系统是主动的,而用户却处于被动接收的状态,处理流程如图 3 所示。

                            图 3 流计算处理过程


需求:适应流式数据、不间断查询;系统稳定可靠、可扩展性好、可维护性好等。有关计算的一些注意点:分布式计算、并行计算(节点间的并行、节点内的并行)、热点数据的缓存策略、服务端计算。


3)实时查询服务
 全内存:直接提供数据读取服务,定期转存到磁盘或数据库进行持久化。

  半内存:使用 Redis、 Memcache、 MongoDB、 BerkeleyDB 等内存数据库提供数据实时查询服务,由这些系统进行持久化操作。

  全磁盘:使用 HBase 等以分布式文件系统(HDFS)为基础的 NoSQL 数据库,对于KeyValue 内存引擎,关键是设计好 Key 的分布。

 





实时计算框架

最近这几年随着实时计算的流行,相继出现了以下实时计算的框架。

  1、 IBM 的 StreamBase
StreamBase 是 IBM 开发的一款商业流式计算系统,在金融行业和政府部门使用,其本身是商业应用软件,但提供了开发版。相对于付费使用的企业版,开发版的功能更少,但这并不妨碍我们从外部使用 API 接口来对 StreamBase 本身进行分析。

  StreamBase 使用 Java 开发, IDE 是基于 Eclipse 进行二次开发,功能非常强大。 StreamBase也提供了相当多的 Operator、 Functor 以及其他组件来帮助构建应用程序。用户只需要通过 IDE拖拉控件,然后关联,设置好传输的 Schema 并且设置控件计算过程,就可以编译出一个高效处理的流式应用程序。同时, StreamBase 还提供了类 SQL 来描述计算过程。 StreamBase 的架构如图 1-4 所示。
StreamBase Server 是节点上启动的管理进程,它负责管理节点上 Container 的实例,每个 Container 通 过 Adapter 获 得 输 入, 交 给 应 用 逻 辑 计 算, 然 后 通 过 Adapter 输 出。 各 个Container 相互连接,形成一个计算流图。

                        图4     StreamBase 架构图

  Adapter 负责与异构输入或输出交互,源或目的地可能包括 CSV 文件、 JDBC、 JMS、Simulation( StreamBase 提供的流产生模拟器)或用户定制。
每个 StreamBase Server 上面都会有一个 System Container,主要是产生系统监控信息的流式数据。
HA Container 用于容错恢复,可以看出它实际包含两个部分: Heartbeat 和 HA Events,其中 Heartbeat 也是 Tuple 在 Container 之间传输。在 HA 方案下, HA Container 监控 PrimaryServer 的活动情况,然后将这些信息转换成为 HA Events 交给 StreamBase Monitor 来处理。
Monitor 就是从 System Container 和 HA Container 中获取数据并进行处理。 StreamBase认为 HA 问题应该通过 CEP 方式处理,也就是说出现问题的部件肯定会反映在 SystemContainer 和 HA Container 的输出流上面, Monitor 如果通过复杂事件处理这些 Tuples 就能够检测到机器故障等问题,并做出相应处理。

 

 


  2、Yahoo 的 S42
Yahoo! S4(Simple Scalable Streaming System)是一个通用的、分布式的、可扩展的、分区容错的、可插拔的流式系统 。基于 S4 框架,开发者可以容易地开发面向持续流数据处理的应用。 S4 的最新版本是 v0.6.0,是 Apache 孵化项目,其设计特点有以下几个方面。
Actor 计算模型:为了能在普通机型构成的集群上进行分布式处理,并且在集群内部不使用共享内存, S4 架构采用了 Actor 模式,这种模式提供了封装和地址透明语义,因此在允许应用大规模并发的同时,提供了简单的编程接口。 S4 系统通过处理单元(Processing Elements, PEs)进行计算,消息在处理单元间以数据事件的形式传送,PE 消费事件,发出一个或多个可能被其他 PE 处理的事件,或者直接发布结果。每个PE 的状态对于其他 PE 不可见, PE 之间唯一的交互模式就是发出事件和消费事件。
对等集群架构: S4 采用对等架构,集群中的所有处理节点都是等同的,没有中心控制节点,这使得集群的扩展性很好,处理节点的总数理论上无上限;同时, S4 没有单点容错的问题。
可插拔体系架构: S4 系统使用 Java 语言开发,采用了极富层次的模块化编程,每个通用功能点都尽量抽象出来作为通用模块,而且尽可能地让各模块实现可定制化。
支持部分容错:基于 ZooKeeper 服务的集群管理层会自动路由事件从失效节点到其他节点。除非显式保存到持久性存储,否则节点故障时,节点上处理事件的状态会丢失。
S4 的重要应用场景是预估点击通过率(CTR)。 CTR 是广告点击数除以展现数得到的比率,拥有足够历史的展现和点击数据后, CTR是用户点击广告可能性的一个很好的估算,精确的来源点击对于个性化和搜索排名来说都价值无限。据 S4 的开发者称,在线流量上的实验显示基于S4系统的新CTR计算框架可以在不影响收入的前提下将 CTR 值提高 3%,这主要是通过快速检测低质量的广告并把它们过滤出去而获得的收益。 S4 系统提供的低延迟处理能够使得商务广告部门获益,但是潜在的风险也不能忽视,那就是事件流的速率快到一定程度后,S4可能无法处理, 会导致事件的丢失, 如图4所示。

                           图 5    S4 在流量压力测试下的事件丢失情况

 

 

  3、Twitter 的 Storm
Twitter 的 Storm : Storm 是一个分布式的、容错的实时计算系统。 Storm 的用途:可用于处理消息和更新数据库(流处理),在数据流上进行持续查询,以流的形式返回结果到客户端(持续计算),并行化一个类似实时查询的热点查询(分布式的 RPC)。 
Storm 为分布式实时计算提供了一组通用原语,可被用于“流处理”中,实时处理消息并更新数据库。这是管理队列及工作者集群的另一种方式。 Storm 也可用于“连续计算”
( continuous computation),对数据流做连续查询,在计算时将结果以流的形式输出给用户。它还用于“分布式 RPC”,以并行的方式运行昂贵的运算。
Storm 的主要特点如下:
简单的编程模型。类似于 MapReduce 降低了并行批处理复杂性, Storm 降低了进行实时处理的复杂性。
可以使用各种编程语言。可以在 Storm 上使用各种编程语言。默认支持 Clojure、Java、 Ruby 和 Python。要增加对其他语言的支持,只需实现一个简单的 Storm 通信协议即可。
容错性。 Storm 会管理工作进程和节点的故障。
水平扩展。计算是在多个线程、进程和服务器之间并行进行的。
可靠的消息处理。 Storm 保证每个消息至少能得到一次完整处理。当任务失败时,它会负责从消息源重试消息。
快速。系统的设计保证了消息能得到快速的处理,使用 ZeroMQ 作为其底层消息队列。
本地模式。 Storm 有一个“本地模式”,可以在处理过程中完全模拟 Storm 集群。这可以使用户快速进行开发和单元测试。

 



  4、Twitter 的 Rainbird
Rainbird 是一款分布式实时统计系统,可以用于实时数据的统计。
1)统计网站中每一个页面,域名的点击次数。
2)内部系统的运行监控(统计被监控服务器的运行状态)。
3)记录最大值和最小值。
Rainbird 构建在 Cassandra 上,使用 Scala 编写,依赖于 ZooKeeper、 Scribe 和 Thrift。每秒可以写入 10 万个事件,而且都带有层次结构,或者进行各种查询,延迟小于 100ms。目前 Twitter 已经在 Promoted Tweets、微博中的链接、短地址、每个用户的微博交互等生产环境使用了 Rainbird。其主要组件的功能如下。
ZooKeeper:是 Hadoop 子项目中的一款分布式协调系统,用于控制分布式系统中各个组件的一致性。
Cassandra :是 NoSQL 中一款非常出色的产品,集合了 Dynamo 和 BigTable 特性的分布式存储系统,用于存储需要统计的数据,并提供客户端查询统计数据(需要使用分布式 Counter 补丁 CASSANDRA-1072)。
Scribe :是 Facebook 开源的一款分布式日志收集系统,用于在系统中将各个需要统计的数据源收集到 Cassandra 中。
Thrift :是 Facebook 开源的一款跨语言 C/S 网络通信框架,开发人员基于该框架可以轻松地开发 C/S 应用。

 


  5、Facebook 的 Puma
Puma 是 Facebook 的数据流处理系统,早期的处理系统如图 1-6 所示,即二代 Puma。PTail 将数据以流的方式传递给 Puma 2, Puma 2 每秒需要处理百万级的消息,处理多为Aggregation 方式的操作,遵循时间序列,涉及的复杂 Aggregation 操作诸如独立访次、最频繁事件,等等。

                          图 6  Puma 2 系统数据处理通路

  对于每条消息, Puma 2 发送“Increment”操作到 HBase。考虑到自动负载均衡、自动容错和写入吞吐等因素, Puma 选择 HBase 而不是 MySQL 作为其存储引擎。 Puma 2的服务器都是对等的,即同时可能有多个 Puma 2 服务器向 HBase 中修改同一行数据。因此,Facebook 为 HBase 增加了新的功能,支持一条 Increment 操作修改同行数据的多列。
Puma 2的架构非常简单并且易于维护,其涉及的状态仅仅是 PTail 的 Checkpoint,即上游数据位置周期性地存储在 HBase中。由于是对称结构,集群扩容和机器故障的处理都非常方便。不过, Puma 2的缺点也很突出,首先,HBase的Increment操作是非常昂贵的,因为它涉及读和写,而HBase的随机读效率比较差;另外,复杂 Aggregation 操作也不好支持,需要在 HBase上写很多用户代码;再者,Puma 2在故障时会产生少量重复数据,因为 HBase的 Increment 和 PTail 的 Checkpoint 并不是一个原子操作。
但值得一提的是, Puma 并没有开源出来,用户可以了解和借鉴其实现原理。

 


 6、阿里的 JStorm
JStorm 是一个 Alibaba 开源的分布式实时计算引擎,可以认为是 Twitter Storm 的 Java版本,用户按照指定的接口实现一个任务,然后将这个任务递交给 JStorm 系统, JStorm 会启动后台服务进程 7×24 小时运行,一旦某个 Worker 发生故障,调度器立即分配一个新的Worker 替换这个失效的 Worker。
JStorm 处理数据的方式是基于消息的流水线处理,因此特别适合无状态计算,也就是计算单元依赖的数据全部可以在接受的消息中找到,并且最好一个数据流不依赖另外一个数据流。因此, JStorm 适用于下面的场景:
日志分析。从日志中分析出特定的数据,并将结果存入外部存储器,如数据库。
管道系统。将数据从一个系统传输到另外一个系统,如将数据库同步到 Hadoop。
消息转化器。将接收到的消息按照某种格式转化,存储到另外一个系统,如消息中间件中。
统计分析器。从日志或消息中提炼出某个字段,然后进行 COUNT 或 SUM 计算,最后将统计值存入外部存储器。
但是, JStorm 的活跃度并不高,截至本章书写时,整个 JStorm 项目共提交过 36 次,并且只有 1 个 Committer,相比 Twitter Storm,不管是活跃度,还是认可度都还不是一个数量级的产品。

 

 



  7、其他实时计算系统
(1) HStreaming
HStreaming 是建立在 Hadoop 上的可扩展的、可持续的数据分析系统。它可以分析、可视化并处理大量连续数据,如一个金融交易系统实时展示数据图。 HStreaming 由 Jana Uhlig与 Volkmar Uhlig 联合创立,该公司没有提供相关产品的开源版本,从官网信息来看,只提供相关的解决方案。
HStreaming 公司尝试为 Hadoop 环境添加一个实时的组件,当数据提交到系统,在存储到磁盘之前会进行数据处理,类似开源的 Storm 和 Kafka。目前 HStreaming 已经建立了一个完整的系统,该系统能够利用实时的引擎来处理视频、服务器、传感器以及其他机器上生成的数据流,而且完全兼容 Hadoop 作为一个归档和批量处理系统。
(2) Esper
Esper 是 EsperTech 公司使用 Java 开发的事件流处理(Event Stream Processing, ESP)和复杂事件处理(Complex Event Processing, CEP)引擎。 CEP 是一种实时事件处理并从大量事件数据流中挖掘复杂模式的技术。 ESP 是一种从大量事件数据流中过滤、分析有意义的事件,并能够实时取得这些有意义的信息的技术。该引擎可应用于网络入侵探测、 SLA 监测、RFID 读取、航空运输调控、金融(风险管理、欺诈探测)等领域。 Esper 可以用在股票系统、风险监控系统等实时性要求比较高的系统中。 
(3) Borealis
Borealis 是由 Brandeis University、 Brown University 和 MIT 合作开发的一个分布式流式系统,由之前的流式系统 Aurora、 Medusa 演化而来,是学术研究的一个产品, 2008 年已经停止维护。
Borealis 具有丰富的论文、完整的用户 / 开发者文档,系统是用 C++ 实现的,运行于x86-based Linux 平台。系统是开源的,同时使用了较多的第三方开源组件,包括用于查询语言翻译的 ANTLR、 C++ 的网络编程框架库 NMSTL 等。
Borealis 系统的流式模型和其他流式系统基本一致:接受多元的数据流和输出流,为了容错,采用确定性计算,对于容错性要求高的系统,会对输入流使用算子进行定序。

 



  8、框架对比
实时数据流计算是近年来分布式、并行计算领域研究和实践的重点,无论是工业界,还是学术界,都诞生了多个具有代表性的数据流计算系统,用于解决实际生产问题和进行学术研究。不同的系统满足不同应用的需求,系统并无好坏之分,关键在于服务的对象是谁。图 1-7 从开发语言、高可用机制、支持精确恢复、主从架构、资源利用率、恢复时间、支持状态持久化及支持去重等几个方面比较了典型的 3 个数据流计算系统 Puma、 Storm 和 S4。因为 StreamBase 是厂商发行商用版本, HStreaming 只提供解决方案,而 JStorm 和 Storm 非常相似,所以这几种产品并没有罗列在图 7 中。

                    图7    Puma、 Storm 和 S4 三种数据流计算系统对比

 

  可以看到,为了高效开发,两个系统使用 Java,另一种系统使用函数式编程语言Clojure ;高可用方案,有两个系统使用 Primary Standby 方式,系统恢复时间可控,但系统复杂度增加,资源使用率也较低,因为需要一些机器来当备机;而 Storm 选择了更简单可行的上游回放方式, 资源使用率高,就是恢复时间可能稍长些; Puma 和 S4 都支持状态持久化,但 S4 目前不支持数据去重,未来可能会实现;三个系统都做不到精确恢复,即恢复后的执行结果和无故障发生时保持一致,因为即使是 Primary Standby 方式,也只是定期Checkpoint,并没有跟踪每条消息的执行。商用的 StreamBase 支持精确恢复,这主要应用于金融领域。


本文转自大数据躺过的坑博客园博客,原文链接:http://www.cnblogs.com/zlslch/p/5989237.html,如需转载请自行联系原作者

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
一步一步学习SignalR进行实时通信_8_案例2
原文:一步一步学习SignalR进行实时通信_8_案例2 一步一步学习SignalR进行实时通信\_8_案例2 SignalR 一步一步学习SignalR进行实时通信_8_案例2 前言 配置Hub 建立DrawingHub 页面 javascript 实现效果 结束语 参考文献 前言 这讲分析一个案例,在一个画板上画画实时在其他客户端上显示。
938 0
一步一步学习SignalR进行实时通信_9_托管在非Web应用程序
原文:一步一步学习SignalR进行实时通信_9_托管在非Web应用程序 一步一步学习SignalR进行实时通信\_9_托管在非Web应用程序 一步一步学习SignalR进行实时通信_9_托管在非Web应用程序 前言 部署在控制台应用程序 安装自托管包 安装跨域包 winform客户端 设计界面 连接 完整实现效果 windows服务 创建服务 安装服务 启动服务 连接服务 结束语 源码下载 参考文献 前言 本章我们将学习将signalr服务托管在非web应用程序。
1188 0
《构建实时机器学习系统》一第2章 实时监督式机器学习 2.1 什么是监督式机器学习
本节书摘来自华章出版社《构建实时机器学习系统》一 书中的第2章,第2.1节,作者:彭河森 汪涵,更多章节内容可以访问云栖社区“华章计算机”公众号查看。
1506 0
《构建实时机器学习系统》一1.7 案例:Netflix在机器学习竞赛中学到的经验
本节书摘来自华章出版社《构建实时机器学习系统》一 书中的第1章,第1.7节,作者:彭河森 汪涵,更多章节内容可以访问云栖社区“华章计算机”公众号查看。
1505 0
阿里云服务器端口号设置
阿里云服务器初级使用者可能面临的问题之一. 使用tomcat或者其他服务器软件设置端口号后,比如 一些不是默认的, mysql的 3306, mssql的1433,有时候打不开网页, 原因是没有在ecs安全组去设置这个端口号. 解决: 点击ecs下网络和安全下的安全组 在弹出的安全组中,如果没有就新建安全组,然后点击配置规则 最后如上图点击添加...或快速创建.   have fun!  将编程看作是一门艺术,而不单单是个技术。
10459 0
《如何开通实时计算 Flink 版》|学习笔记
快速学习 《如何开通实时计算 Flink 版》
15 0
《构建实时机器学习系统》一1.6 实时应用对机器学习的要求
本节书摘来自华章出版社《构建实时机器学习系统》一 书中的第1章,第1.6节,作者:彭河森 汪涵,更多章节内容可以访问云栖社区“华章计算机”公众号查看。
964 0
一步一步学习SignalR进行实时通信_5_Hub
原文:一步一步学习SignalR进行实时通信_5_Hub 一步一步学习SignalR进行实时通信\_5_Hub SignalR 一步一步学习SignalR进行实时通信_5_Hub 前言 Hub命名规则 Hub封装好的常用方法 Hub常用方法解释 保持状态 前后台交互 结束语 参考文献 前言 上一讲,我们简单的介绍了下Hub的配置以及实现方法,这一将我希望把更多的细节梳理清楚,不至于让大家在细节上面摸不着头脑,理解深了,那么做项目自然就会相对轻松一些。
791 0
2010
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
《2021云上架构与运维峰会演讲合集》
立即下载
《零基础CSS入门教程》
立即下载
《零基础HTML入门教程》
立即下载