利用SparkSQL读写Excel数据

简介: 利用SparkSQL读写Excel数据

一点前言

直接来说,这种很多程序员的梦想~

撸了大半辈子的代码,号称可以把宇宙Coding出来,结果到了Excel这块卡主了。我就是想写SQL去查Excel,不喜欢记住那么多Excel操作!

好在,我们这个世界变化很快,Excel新的版本号称是支持python的,也准备支持js,不过有个问题是当年一直追随window的程序员因为技术提升有了Mac了,新版本的office目测还收费,en~

我在玩Spark的时候发现可以搞Excel,秃秃的脑袋瓜一转~~

起手

不得不说真需要狠狠感谢这个开源的世界,以及基础环境的搭建人员。

首先,我们看到了一个github上面的开源项目:spark-excel

其次,在github网络不通的背景下,我们找到了gitee上面的镜像地址:可用的地址,剩下的工作我们就是调通。

引入

这个其实是一个sbt下的工程,所以我们可以直接用maven引入

<dependency>
             <groupId>com.crealytics</groupId>
             <artifactId>spark-excel_2.11</artifactId>
             <version>0.11.1</version>
        </dependency>

当然,根据Scala版本的不同可以有不一样的配方

Scala 2.12

groupId: com.crealytics
artifactId: spark-excel_2.12
version: <spark-version>_0.14.0

Scala 2.11

groupId: com.crealytics
artifactId: spark-excel_2.11
version: <spark-version>_0.14.0

如果还有特殊版本,公司内部版本,源码编译方式也是提供了。

起手

上手自然先准备一把Excel数据,先弄一个excel的数据表格

数据ready,我们进行编码,初始化之类的跳过,需要读取excel的话首先要构建schema,这个是后面读取数据需要的列

//定义数据结构
    val schema = StructType(List(
      StructField("id", StringType, nullable = false),
      StructField("name", StringType, nullable = false),
      StructField("age", IntegerType, nullable = false),
      StructField("gender", StringType, nullable = false),
      StructField("cls", StringType, nullable = false)))

读取数据

val df = spark.read
      .format("com.crealytics.spark.excel")
      .option("dataAddress", "'学生信息'!A2:E6")
      .option("useHeader", "false") 
      .schema(schema)
      .load(filePath)
      df.show()

代码执行,结果如下:

读取的时候有挺多配置的,适宜各种场景下需要定制化执行,关键配置进行说明

配置项 说明
dataAddress 学生信息’!A2:E6,这个表示的其实是Sheet中表格的范围,我指定的是A2到E6表示的其实是一个对角线的区域
useHeader 必须,是否使用表头,false的话自己命名表头(_c0),true则第一行为表头

更多配置的话参考源码中的文档或者看源码也是可以的。

实战

目标:前面有一个学生表,我们再搞一个班级表

我们目标是把学生对应的班主任合并到一个sheet里面去。

我们增加一个对班级读取的df

val clsSchema = StructType(List(
      StructField("cls_id", StringType, nullable = false),
      StructField("cls_addr", StringType, nullable = false),
      StructField("headteacher", StringType, nullable = false)))
 val clsDf = spark.read
      .format("com.crealytics.spark.excel")
      .option("dataAddress", "'班级信息'!A2:C2")
      .option("useHeader", "false")
      .option("treatEmptyValuesAsNulls", "true")
      .option("inferSchema", "true")
      .schema(clsSchema)
      .load(filePath)
      clsDf.show(10)

分别建立自己的表视图

studentDf.createOrReplaceTempView("student")
clsDf.createOrReplaceTempView("cls")

激动人心的撸sql环节就来了

val sql=
      """
        |select id,name,age,gender,cls,cls_addr,headteacher from
        |student left join cls on student.cls=cls.cls_id
        |""".stripMargin
      spark.sql(sql).show(100)

看一下结果

最后我们把结果写到excel中

val savefilePath = "D:\\学生信息详情.xlsx"
 val stuDetail = spark.sql(sql)
     stuDetail.write
      .format("com.crealytics.spark.excel")
      .option("dataAddress", "'学生详情'!A1")
      .option("useHeader", "false")
      .option("header", "true")
      .mode("append")
      .save(savefilePath)

效果如下:

通关 ~

目录
相关文章
|
3月前
|
Python
如何根据Excel某列数据为依据分成一个新的工作表
在处理Excel数据时,我们常需要根据列值将数据分到不同的工作表或文件中。本文通过Python和VBA两种方法实现该操作:使用Python的`pandas`库按年级拆分为多个文件,再通过VBA宏按班级生成新的工作表,帮助高效整理复杂数据。
|
3月前
|
数据采集 数据可视化 数据挖掘
用 Excel+Power Query 做电商数据分析:从 “每天加班整理数据” 到 “一键生成报表” 的配置教程
在电商运营中,数据是增长的关键驱动力。然而,传统的手工数据处理方式效率低下,耗费大量时间且易出错。本文介绍如何利用 Excel 中的 Power Query 工具,自动化完成电商数据的采集、清洗与分析,大幅提升数据处理效率。通过某美妆电商的实战案例,详细拆解从多平台数据整合到可视化报表生成的全流程,帮助电商从业者摆脱繁琐操作,聚焦业务增长,实现数据驱动的高效运营。
|
5月前
|
存储 安全 大数据
网安工程师必看!AiPy解决fscan扫描数据整理难题—多种信息快速分拣+Excel结构化存储方案
作为一名安全测试工程师,分析fscan扫描结果曾是繁琐的手动活:从海量日志中提取开放端口、漏洞信息和主机数据,耗时又易错。但现在,借助AiPy开发的GUI解析工具,只需喝杯奶茶的时间,即可将[PORT]、[SERVICE]、[VULN]、[HOST]等关键信息智能分类,并生成三份清晰的Excel报表。告别手动整理,大幅提升效率!在安全行业,工具党正碾压手动党。掌握AiPy,把时间留给真正的攻防实战!官网链接:https://www.aipyaipy.com,解锁更多用法!
|
3月前
|
Python
将Excel特定某列数据删除
将Excel特定某列数据删除
|
10月前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
1830 10
|
8月前
|
分布式计算 Hadoop 大数据
从Excel到Hadoop:数据规模的进化之路
从Excel到Hadoop:数据规模的进化之路
161 10
|
10月前
|
存储 Java easyexcel
招行面试:100万级别数据的Excel,如何秒级导入到数据库?
本文由40岁老架构师尼恩撰写,分享了应对招商银行Java后端面试绝命12题的经验。文章详细介绍了如何通过系统化准备,在面试中展示强大的技术实力。针对百万级数据的Excel导入难题,尼恩推荐使用阿里巴巴开源的EasyExcel框架,并结合高性能分片读取、Disruptor队列缓冲和高并发批量写入的架构方案,实现高效的数据处理。此外,文章还提供了完整的代码示例和配置说明,帮助读者快速掌握相关技能。建议读者参考《尼恩Java面试宝典PDF》进行系统化刷题,提升面试竞争力。关注公众号【技术自由圈】可获取更多技术资源和指导。
|
数据处理 Python
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
这篇文章介绍了如何使用Python读取Excel文件中的数据,处理后将其保存为txt、xlsx和csv格式的文件。
594 3
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
|
Python
python读写操作excel日志
主要是读写操作,创建表格
148 2
|
索引 Python
Excel学习笔记(一):python读写excel,并完成计算平均成绩、成绩等级划分、每个同学分数大于70的次数、找最优成绩
这篇文章是关于如何使用Python读取Excel文件中的学生成绩数据,并进行计算平均成绩、成绩等级划分、统计分数大于70的次数以及找出最优成绩等操作的教程。
379 0

热门文章

最新文章