没有规定在Scala中将Spark DataFrame转换为AWS Glue DynamicFrame-问答-阿里云开发者社区-阿里云

开发者社区> 问答> 正文

没有规定在Scala中将Spark DataFrame转换为AWS Glue DynamicFrame

没有相应的以下代码可以从Spark DataFrame转换为Glue DynamicFrame,有什么解决方法?

Convert to a dataframe and partition based on "partition_col"
partitioned_dataframe = datasource0.toDF().repartition(1)

Convert back to a DynamicFrame for further processing.
partitioned_dynamicframe = DynamicFrame.fromDF(partitioned_dataframe, glueContext, "partitioned_df")

展开
收起
社区小助手 2018-12-11 18:00:19 2005 0
1 条回答
写回答
取消 提交回答
  • 社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。

    用这个:

    Convert Spark's DataFrame to Glue's DynamicFrame

    val partitioned_dynamicframe = DynamicFrame(partitioned_dataframe, glueContext)

    2019-07-17 23:19:57
    赞同 展开评论 打赏
问答排行榜
最热
最新
相关电子书
更多
Comparison of Spark SQL with Hive
立即下载
低代码开发师(初级)实战教程
立即下载
阿里巴巴DevOps 最佳实践手册
立即下载