开发者社区> 问答> 正文

如何读取CSV文件,然后将其另存为Spark Scala中的JSON?

我正在尝试读取一个包含大约700万行和22列的CSV文件。

如何在Spark Dataframe中读取CSV后将其另存为JSON文件?

展开
收起
社区小助手 2018-12-12 10:01:32 3406 0
1 条回答
写回答
取消 提交回答
  • 社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。

    将CSV文件作为数据框读取

    val spark = SparkSession.builder().master("local[2]").appname("test").getOrCreate
    val df = spark.read.csv("path to csv")
    现在您可以执行某些操作df并另存为JSON

    df.write.json("output path")

    2019-07-17 23:20:00
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载