阿里云E-MapReduce这个应该跟环境有关系吧?

阿里云E-MapReduce这个应该跟环境有关系吧?
image.png

展开
收起
真的很搞笑 2024-08-14 15:29:44 98 分享 版权
1 条回答
写回答
取消 提交回答
  • 是的,notebook机器上设置了PYSPARK_PYTHON的环境变量,如果你自己创建spark session的话executor(也就是你的emr集群上)是没有这个python目录的所以会报错,这个教程有教如何初始化sparksession
    image.png
    ,此回答整理自钉群“EMR Workbench(原EMR Studio)用户交流群”

    2024-08-14 16:59:02
    赞同 4 展开评论

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

还有其他疑问?
咨询AI助理