- 概念
关联
初始化streamingcontext
离散流
输入dstream
dstream的转化
dstream的输出操作
缓存或者持久化
checkpointing
部署应用程序
监控应用程序 - 性能调优
减少批数据的执行事件
设置正确的批容量
内存调优 - 容错语义
Spark-spark streaming
2016-04-21
992
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
概念 关联 初始化streamingcontext 离散流 输入dstream dstream的转化 dstream的输出操作 缓存或者持久化 checkpointing 部署应用程序 监控应用程序性能调优 减少批...
目录
相关文章
|
2月前
|
消息中间件
分布式计算
NoSQL
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
42
0
0
|
2月前
|
消息中间件
存储
分布式计算
大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset
大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset
93
0
0
|
19天前
|
分布式计算
流计算
Spark
【赵渝强老师】Spark Streaming中的DStream
本文介绍了Spark Streaming的核心概念DStream，即离散流。DStream通过时间间隔将连续的数据流转换为一系列不连续的RDD，再通过Transformation进行转换，实现流式数据的处理。文中以MyNetworkWordCount程序为例，展示了DStream生成RDD的过程，并附有视频讲解。
28
0
0
|
2月前
|
消息中间件
分布式计算
Kafka
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
56
0
0
|
2月前
|
SQL
分布式计算
大数据
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（一）
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（一）
34
0
0
|
2月前
|
存储
分布式计算
大数据
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（二）
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（二）
49
0
0
|
2月前
|
SQL
分布式计算
大数据
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（一）
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（一）
32
0
0
|
2月前
|
SQL
分布式计算
大数据
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（二）
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（二）
29
0
0
|
2月前
|
消息中间件
分布式计算
Kafka
大数据-99 Spark 集群 Spark Streaming DStream 文件数据流、Socket、RDD队列流
大数据-99 Spark 集群 Spark Streaming DStream 文件数据流、Socket、RDD队列流
31
0
0
|
2月前
|
消息中间件
分布式计算
Kafka
大数据-98 Spark 集群 Spark Streaming 基础概述 架构概念 执行流程 优缺点
大数据-98 Spark 集群 Spark Streaming 基础概述 架构概念 执行流程 优缺点
41
0
0
热门文章
最新文章
1
十二、Spark的安装与部署详情（Local模式，Standalone模式，Spank on YARN模式）
2
使用MaxCompute访问TableStore（OTS） 简明手册
3
从超模转职成为程序媛是一种怎样的体验
4
阿里巴巴NACOS（6）- 在k8s上部署Nacos
5
[Spark][Python]Spark Python 索引页
6
Spark-构建基于Spark的推荐引擎
7
如何查看spark与hadoop、kafka、Scala、flume、hive等兼容版本【适用于任何版本】
8
Spark Master启动源码分析
9
Spark PruneDependency 依赖关系 RangePartitioner
10
spark1.4加载mysql数据 创建Dataframe及join操作连接方法问题
1
spark用于分析数据并将数据保存到数据库中是
72
2
数据分享|Python、Spark SQL、MapReduce决策树、回归对车祸发生率影响因素可视化分析
93
3
如何解决Spark在深度学习中的资源消耗问题？
90
4
Spark在深度学习中的优缺点是什么？
246
5
使用Spark进行机器学习
76
6
Spark是一个基于内存的通用数据处理引擎，可以进行大规模数据处理和分析
137
7
【Spark】Spark基础教程知识点
88
8
DataWorks产品使用合集之在DataWorks中，通过spark访问外网的步骤如何解决
170
9
MaxCompute操作报错合集之大数据计算的MaxCompute Spark引擎无法读取到表，是什么原因
146
10
MaxCompute操作报错合集之spark3.1.1通过resource目录下的conf文件配置，报错如何解决
80