流式处理框架的对比

简介: 流式处理框架的对比
  1. Hadoop MapReduce只支持批处理任务,无法支持流式任务
  2. Apache Tez
    支持批处理任务,只是使用DAG来组织MR任务。
  3. Apache Storm
    只支持流式的处理任务,无法支持批处理任务
  4. Apache Spark支持批处理任务,在此基础上,通过Spark Streaming采用Micro-Batch的架构,把数据流切分成细粒度的批处理,并作为一个Spark任务,它不是原生的流处理。
  5. Apache Flink
    原生支持流式处理,通过缓存块的设计实现流和批的统一。
相关文章
|
12月前
|
传感器 网络协议 算法
Java网络编程实时数据流处理
在现代计算机应用程序中,处理实时数据流是一项关键任务。这种数据流可以是来自传感器、网络、文件或其他源头的数据,需要即时处理并做出相应的决策。Java提供了强大的网络编程工具和库,可以用于处理实时数据流。本文将详细介绍如何使用Java进行实时数据流处理。
127 0
|
2月前
|
中间件 数据处理 Apache
|
SQL 分布式计算 大数据
统一批处理流处理——Flink批流一体实现原理
统一批处理流处理——Flink批流一体实现原理
1573 0
统一批处理流处理——Flink批流一体实现原理
|
2月前
|
消息中间件 运维 监控
|
2月前
|
弹性计算 负载均衡 中间件
|
2月前
|
消息中间件 中间件 数据挖掘
中间件发布订阅实时数据处理
【7月更文挑战第2天】
20 2
|
2月前
|
消息中间件 算法 中间件
|
4月前
|
消息中间件 监控 安全
【天衍系列 05】Flink集成KafkaSink组件:实现流式数据的可靠传输 & 高效协同
【天衍系列 05】Flink集成KafkaSink组件:实现流式数据的可靠传输 & 高效协同
206 5
|
消息中间件 存储 负载均衡
RocketMQ Connect 构建流式数据处理平台
RocketMQ Connect 作为 RocketMQ 与其他系统间流式数据传输的重要工具,轻松将 RocketMQ 与其他存储技术进行集成,并实现低延迟流/批处理。
379 1
RocketMQ Connect 构建流式数据处理平台
|
消息中间件 存储 大数据
实时流处理框架之Storm的安装与部署
实时流处理框架之Storm的安装与部署
227 0
实时流处理框架之Storm的安装与部署