配置spark,并在idea中搭建项目

简介: 配置spark,并在idea中搭建项目

网上的普遍太久远,不太适配,记录自己的完美搭建

一、配置spark

1.配置maven(注意选择版本为3.6.3)

参考:https://blog.csdn.net/huo920/article/details/82082403

但这一步是多余的

2.下载scala(注意版本对应为2.12)

查看scala版本:scala -version

查看对应关系:https://mvnrepository.com/artifact/org.apache.spark/spark-core

安装scala参考:https://cloud.tencent.com/developer/article/1733776

官网:https://www.scala-lang.org/download/

然后选择特定的版本

3.下载spark(注意版本选择3.1.3)

不要太新了,否则spark-shell会报错,需要降低版本

https://zhuanlan.zhihu.com/p/149469688

检验:cmd中spark-shell

二、搭建idea项目

1.创建项目

由于版本较新,maven版本配置全靠自己琢磨,可惜自己没琢磨透

感谢好友@玥的热心帮助,通过直接创建项目解决问题

参考:https://blog.csdn.net/github_38924695/article/details/118510289?utm_source=app&app_version=5.3.1&code=app_1562916241&uLinkId=usr1mkqgl919blen

注意:点击IDEA右上角放大镜左边的按钮(Project Structure),或者快捷键ctrl + shift + alt + S,点击Modules:

(要包括scala-sdk和spark的jars包:D:\Programs\pyspark\spark-3.1.3-bin-hadoop3.2\jars)

2.导包解决爆红

import org.apache.spark.{SparkConf, SparkContext}
import org.apache.spark.sql.{Dataset, SparkSession}

3.成果展示

4.附上测试代码

注意!!package和object test1 为自己的哈

package main.scala
object test1 {
  def main(args: Array[String]): Unit = {
    println("Hello Scala")
  }
}

三、心得

完结撒花,仙女落泪QAQ

有问题可以发评论区,我看到会回复

折腾三天,理论把坑踩遍了hhh

目录
相关文章
|
4天前
|
Java Maven
Idea配置项目的热启动
Idea配置项目的热启动
31 5
Idea配置项目的热启动
|
4月前
|
运维 网络安全 持续交付
IDEA+Docker 远程一键部署项目:技术干货分享
【10月更文挑战第4天】在现代软件开发中,快速、可靠、自动化的部署流程是提升开发效率和运维质量的关键。IDEA(IntelliJ IDEA)作为Java开发者首选的IDE,结合Docker这一轻量级容器化技术,能够实现远程一键部署项目,极大地简化了开发到生产的流程。今天,我将和大家分享这一组合在工作学习中的实际应用和技术干货。
459 3
|
2月前
|
Java Spring
【Spring配置】idea编码格式导致注解汉字无法保存
问题一:对于同一个项目,我们在使用idea的过程中,使用汉字注解完后,再打开该项目,汉字变成乱码问题二:本来a项目中,汉字注解调试好了,没有乱码了,但是创建出来的新的项目,写的注解又成乱码了。
|
30天前
|
前端开发 Java 开发工具
Git使用教程-将idea本地Java等文件配置到gitte上【保姆级教程】
本内容详细介绍了使用Git进行版本控制的全过程,涵盖从本地仓库创建到远程仓库配置,以及最终推送代码至远程仓库的步骤。
39 0
|
4月前
|
缓存 IDE Java
idea的maven项目打包时没有source下的文件
【10月更文挑战第21天】idea的maven项目打包时没有source下的文件
223 1
|
3月前
|
Linux 网络安全 开发工具
IDEA如何配置git和github
【11月更文挑战第14天】本指南详细介绍了如何在 IntelliJ IDEA 中配置 Git 和 GitHub,包括检查和设置 Git 路径、测试配置,以及通过 SSH 或 HTTPS 方式配置 GitHub 仓库的具体步骤。完成配置后,用户可在 IDEA 中轻松进行版本控制操作。
473 0
|
4月前
|
Java Maven Spring
springboot学习一:idea社区版本创建springboot项目的三种方式(第三种为主)
这篇文章介绍了在IntelliJ IDEA社区版中创建Spring Boot项目的三种方法,特别强调了第三种方法的详细步骤。
2853 0
springboot学习一:idea社区版本创建springboot项目的三种方式(第三种为主)
|
4月前
|
Java 应用服务中间件 Maven
【终极解决方案】IDEA maven 项目修改代码不生效。
【终极解决方案】IDEA maven 项目修改代码不生效。
671 1
|
4月前
|
Java Shell 开发工具
git集成IDEA,托管项目实现版本管理
git集成IDEA,托管项目实现版本管理
49 0
|
存储 SQL 分布式计算
Spark配置参数调优
1.配置多个executor        在项目中,由于数据量为几百万甚至千万级别,如果一个executor装载的对象过多,会导致GC很慢。项目中,我们使一个worker节点执行app时启动多个executor,从而加大并发度,解决full GC慢的问题。
1569 0