1、运行spark：在spark目录下执行 bin/spark-shell，进入spark的shell。
2、wordcount的实现：sc.textFile("/input").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_).collect
spark学习记录
2023-11-09
34
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
spark学习记录
目录
相关文章
|
6月前
|
分布式计算
API
Spark
Spark学习--day05、SparkCore电商网站实操、SparkCore-工程代码
Spark学习--day05、SparkCore电商网站实操、SparkCore-工程代码
125
11
11
|
6月前
|
分布式计算
并行计算
大数据
Spark学习---day02、Spark核心编程（RDD概述、RDD编程（创建、分区规则、转换算子、Action算子））（一）
Spark学习---day02、Spark核心编程 RDD概述、RDD编程（创建、分区规则、转换算子、Action算子））（一）
346
1
1
|
6月前
|
SQL
分布式计算
API
|
1月前
|
分布式计算
大数据
Java
大数据-87 Spark 集群 案例学习 Spark Scala 案例 手写计算圆周率、计算共同好友
大数据-87 Spark 集群 案例学习 Spark Scala 案例 手写计算圆周率、计算共同好友
50
5
5
|
1月前
|
分布式计算
关系型数据库
MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
50
3
3
|
1月前
|
存储
分布式计算
算法
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
63
0
0
|
1月前
|
分布式计算
算法
Spark
|
1月前
|
分布式计算
Scala
Spark
|
2月前
|
分布式计算
Shell
Scala
|
3月前
|
分布式计算
Shell
Scala
热门文章
最新文章
1
Spark Job的提交与task本地化分析（源码阅读八）
2
十二、Spark的安装与部署详情（Local模式，Standalone模式，Spank on YARN模式）
3
[Spark][Python]Spark Python 索引页
4
Spark-spark streaming
5
Spark PruneDependency 依赖关系 RangePartitioner
6
Spark Master启动源码分析
7
Spark-构建基于Spark的推荐引擎
8
spark1.4加载mysql数据 创建Dataframe及join操作连接方法问题
9
如何查看spark与hadoop、kafka、Scala、flume、hive等兼容版本【适用于任何版本】
10
10月17日Spark社区直播【Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理】
1
spark用于分析数据并将数据保存到数据库中是
71
2
数据分享|Python、Spark SQL、MapReduce决策树、回归对车祸发生率影响因素可视化分析
93
3
如何解决Spark在深度学习中的资源消耗问题？
89
4
Spark在深度学习中的优缺点是什么？
241
5
使用Spark进行机器学习
72
6
Spark是一个基于内存的通用数据处理引擎，可以进行大规模数据处理和分析
136
7
【Spark】Spark基础教程知识点
82
8
DataWorks产品使用合集之在DataWorks中，通过spark访问外网的步骤如何解决
168
9
MaxCompute操作报错合集之大数据计算的MaxCompute Spark引擎无法读取到表，是什么原因
144
10
MaxCompute操作报错合集之spark3.1.1通过resource目录下的conf文件配置，报错如何解决
78