E-MapReduce在Pyspark中如何指定python 3的版本
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
E-MapReduce中的PySpark默认为Python 2版本，以EMR-3.35版本为例，介绍如何指定PySpark使用Python 3版本。
可以通过以下两种方式修改Python的版本：
● 临时生效方式
a. 通过SSH方式登录集群，详情请参见登录集群。
b. 执行以下命令，修改Python的版本。export PYSPARK_PYTHON=/usr/bin/python3
c. 执行以下命令，查看Python的版本。pyspark当返回信息中包含如下信息时，表示已修改Python版本为Python 3。Using Python version 3.6.8 (default, Apr 20 2020 14:49:33)
详情请参考：如何指定PySpark使用Python 3版本？
评论
全部评论 (0)