开发者社区> 问答> 正文

在IntelliJ上运行的异常Spark sql代码,即java.lang.IllegalArgumentException:

val spark = SparkSession.builder.appName("Simple Application")

  .config("spark.sql.warehouse.dir",
          "hdfs://quickstart.cloudera:8020/user/hive/warehouse")
  .enableHiveSupport()
  .config("hive.metastore.uris","thrift://127.0.0.1:9083")
  .master("local") //local
  .getOrCreate()

在IntelliJ中运行Spark SQL代码时: Exception in thread "main" java.lang.IllegalArgumentException: Unable to instantiate SparkSession with Hive support because Hive classes are not found。

展开
收起
社区小助手 2018-12-05 14:56:05 5652 0
1 条回答
写回答
取消 提交回答
  • 社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。

    这是因为您可能错过了导入(替换为您正在使用的spark版本):

        <groupId>org.apache.spark</groupId>
        <artifactId>spark-hive_2.11</artifactId>
        <version>2.4.0</version>


    如果使用sbt,则使用以下内容:

    libraryDependencies += "org.apache.spark" %% "spark-hive" % "2.4.0" % "provided"

    2019-07-17 23:18:24
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Spring Cloud Alibaba - 重新定义 Java Cloud-Native 立即下载
The Reactive Cloud Native Arch 立即下载
JAVA开发手册1.5.0 立即下载