- 概念
关联
初始化streamingcontext
离散流
输入dstream
dstream的转化
dstream的输出操作
缓存或者持久化
checkpointing
部署应用程序
监控应用程序 - 性能调优
减少批数据的执行事件
设置正确的批容量
内存调优 - 容错语义
Spark-spark streaming
2016-04-21
994
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
概念 关联 初始化streamingcontext 离散流 输入dstream dstream的转化 dstream的输出操作 缓存或者持久化 checkpointing 部署应用程序 监控应用程序性能调优 减少批...
目录
相关文章
|
2月前
|
消息中间件
分布式计算
NoSQL
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
45
0
0
|
2月前
|
消息中间件
存储
分布式计算
大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset
大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset
101
0
0
|
1月前
|
分布式计算
流计算
Spark
【赵渝强老师】Spark Streaming中的DStream
本文介绍了Spark Streaming的核心概念DStream，即离散流。DStream通过时间间隔将连续的数据流转换为一系列不连续的RDD，再通过Transformation进行转换，实现流式数据的处理。文中以MyNetworkWordCount程序为例，展示了DStream生成RDD的过程，并附有视频讲解。
42
0
0
|
2月前
|
消息中间件
分布式计算
Kafka
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
59
0
0
|
2月前
|
SQL
分布式计算
大数据
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（一）
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（一）
49
0
0
|
2月前
|
存储
分布式计算
大数据
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（二）
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（二）
52
0
0
|
2月前
|
SQL
分布式计算
大数据
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（一）
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（一）
39
0
0
|
2月前
|
SQL
分布式计算
大数据
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（二）
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（二）
33
0
0
|
2月前
|
消息中间件
分布式计算
Kafka
大数据-99 Spark 集群 Spark Streaming DStream 文件数据流、Socket、RDD队列流
大数据-99 Spark 集群 Spark Streaming DStream 文件数据流、Socket、RDD队列流
35
0
0
|
2月前
|
消息中间件
分布式计算
Kafka
大数据-98 Spark 集群 Spark Streaming 基础概述 架构概念 执行流程 优缺点
大数据-98 Spark 集群 Spark Streaming 基础概述 架构概念 执行流程 优缺点
49
0
0
热门文章
最新文章
1
Spark Master启动源码分析
2
使用cProfile等工具来提高python的执行速度
3
四大触点，教你从“用户视角”构建数据分析体系
4
Spring-boot+Dubbo应用启停源码分析
5
docker阿里云镜像加速
6
《Stata统计分析与应用（第2版）》一3.4 图形的保存、合并及修改
7
Spark本地环境搭建（local模式）
8
Spark PruneDependency 依赖关系 RangePartitioner
9
spark1.4加载mysql数据 创建Dataframe及join操作连接方法问题
10
10月17日Spark社区直播【Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理】
1
spark用于分析数据并将数据保存到数据库中是
77
2
数据分享|Python、Spark SQL、MapReduce决策树、回归对车祸发生率影响因素可视化分析
98
3
如何解决Spark在深度学习中的资源消耗问题？
94
4
Spark在深度学习中的优缺点是什么？
269
5
使用Spark进行机器学习
87
6
Spark是一个基于内存的通用数据处理引擎，可以进行大规模数据处理和分析
146
7
【Spark】Spark基础教程知识点
94
8
DataWorks产品使用合集之在DataWorks中，通过spark访问外网的步骤如何解决
180
9
MaxCompute操作报错合集之大数据计算的MaxCompute Spark引擎无法读取到表，是什么原因
153
10
MaxCompute操作报错合集之spark3.1.1通过resource目录下的conf文件配置，报错如何解决
85