备案控制台
探索云世界
开发者社区 开发与运维 文章 正文

0038-如何在CDH集群安装Anaconda&搭建Python私有源

2018-11-22 1746
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：

温馨提示：要看高清无码套图，请使用手机打开并单击图片放大查看。

1.文档编写目的

Anaconda是一个用于科学计算的Python发行版，支持 Linux, Mac, Windows系统，提供了包管理与环境管理的功能，可以很方便地解决多版本python并存、切换以及各种第三方包安装问题。

在企业集群无外网环境下，通过搭建企业私有的Python源，可以使用pip工具方便的安装，以解决Anaconda环境中没有的依赖包的问题。

本文档讲述如何在CDH集群离线安装Anaconda、搭建Python私有源及pip工具使用。

  • 内容概述

1.如何在CDH集群上安装Anaconda

2.如何搭建python私有源

3.pip工具的使用

  • 测试环境

1.操作系统：CentOS6.5

2.CM和CDH版本为5.12.1

3.采用root用户操作

  • 前置条件

1.CDH集群运行正常

2.Apache服务正常运行

2.CDH集群安装Anaconda

使用Parcel包的方式在CDH集群安装Anaconda，下载地址：

https://repo.continuum.io/pkgs/misc/parcels/

根据自己操作系统版本选择Parcel包，本文档是在CentOS6.5版本下操作

2.1部署Anaconda的Parcel包http访问

1.下载Anaconda的Parcel包，下载地址如下

https://repo.continuum.io/pkgs/misc/parcels/Anaconda-4.2.0-el6.parcel
https://repo.continuum.io/pkgs/misc/parcels/Anaconda-4.2.0-el6.parcel.sha
https://repo.continuum.io/pkgs/misc/parcels/manifest.json

2.将上述3个文件下载至HTTP所在服务器的/var/www/html/anaconda4.2.0目录下

[root@ip-172-31-6-148 html]# mkdir -p anaconda4.2.0/
[root@ip-172-31-6-148 html]# cd anaconda4.2.0/
[root@ip-172-31-6-148 anaconda4.2.0]# ll
total 541416
-rw-r--r-- 1 root root 554396033 Jun 19 17:47 Anaconda-4.2.0-el6.parcel
-rw-r--r-- 1 root root        41 Jul  7 19:43 Anaconda-4.2.0-el6.parcel.sha
-rw-r--r-- 1 root root      3890 Jul  7 19:43 manifest.json
[root@ip-172-31-6-148 anaconda4.2.0]#

3.验证http是否正常访问

2.2安装Anaconda

1.配置Anaconda的parcels包访问地址

2.点击下载、分配并激活

2.3配置Anaconda环境变量

Anaconda默认安装在/opt/cloudera/parcels/Anaconda目录，在集群所有节点配置Anaconda的环境变量，操作如下：

  1. 使用root用户或有sudo权限用户编辑/etc/profile文件，在文件末尾增加如下配置
export ANACONDA_HOME=/opt/cloudera/parcels/Anaconda
export PATH=$ANACONDA_HOME/bin:$PATH

2.执行source命令，使环境变量立即生效

[root@ip-172-31-6-148 anaconda4.2.0]# source /etc/profile

3.验证环境变量是否配置成功

[root@ip-172-31-6-148 anaconda4.2.0]# python
Python 2.7.12 |Anaconda 4.2.0 (64-bit)| (default, Jul  2 2016, 17:42:40) 
[GCC 4.4.7 20120313 (Red Hat 4.4.7-1)] on linux2
Type "help", "copyright", "credits" or "license" for more information.
Anaconda is brought to you by Continuum Analytics.
Please check out: http://continuum.io/thanks and https://anaconda.org
>>>

3.搭建Pyton私有源

  • 前置准备：

1.下载pip2pi安装包，下载地址：

https://codeload.github.com/wolever/pip2pi/zip/master

2.下载Python源码依赖包（tar.gz/zip/whl等格式安装包）

3.1安装pip2pi工具

  1. 将下载的pip2pi源码包上传至服务器，并解压
[root@ip-172-31-6-148 ~]# unzip master

2.使用Python命令安装pip2pi

[root@ip-172-31-6-148 python]# cd pip2pi-master/
[root@ip-172-31-6-148 pip2pi-master]# ll
total 44
-rw-r--r-- 1 root root 2797 Mar 19 15:51 CHANGELOG.txt
drwxr-xr-x 2 root root 4096 Mar 19 15:51 libpip2pi
-rw-r--r-- 1 root root 1649 Mar 19 15:51 LICENSE.txt
-rw-r--r-- 1 root root   19 Mar 19 15:51 MANIFEST.in
-rw-r--r-- 1 root root 5080 Mar 19 15:51 README.rst
-rwxr-xr-x 1 root root   84 Mar 19 15:51 run-tests
-rw-r--r-- 1 root root   20 Mar 19 15:51 setup.cfg
-rw-r--r-- 1 root root 1422 Mar 19 15:51 setup.py
drwxr-xr-x 5 root root 4096 Mar 19 15:51 tests
-rw-r--r-- 1 root root  194 Mar 19 15:51 tox.ini
[root@ip-172-31-6-148 pip2pi-master]# python setup.py install

3.测试pip2pi和dir2pi命令是否安装成功

3.2部署依赖包

  1. 在http服务器的/var/www/html目录下新建python-packages目录
[root@ip-172-31-6-148 html]# mkdir python-packages
[root@ip-172-31-6-148 html]# pwd
/var/www/html
[root@ip-172-31-6-148 html]# ll
total 32
drwxr-xr-x 2 root root 4096 Sep 11 15:52 python-packages
[root@ip-172-31-6-148 html]#

2.将本地下载的Python依赖包上传至服务器的/var/www/html/python-packages目录

[root@ip-172-31-6-148 python-packages]# ll
total 1780
-rw-r--r-- 1 root root   2421 Sep 24  2016 bit_array-0.1.0.tar.gz
-rw-r--r-- 1 root root   1254 Sep 12 07:18 enum-compat-0.0.2.tar.gz
-rw-r--r-- 1 root root 339017 Sep 12 07:27 pymongo-3.3.0-cp27-cp27mu-manylinux1_x86_64.whl
-rw-r--r-- 1 root root 368294 Sep 12 07:25 pymongo-3.5.1-cp27-cp27mu-manylinux1_x86_64.whl
-rw-r--r-- 1 root root 799601 Sep 12 07:04 Routes-1.12.3.tar.gz
-rw-r--r-- 1 root root  30409 Apr 23  2016 sasl-0.2.1.tar.gz
-rw-r--r-- 1 root root  29630 Apr 21  2016 six-1.10.0.tar.gz
-rw-r--r-- 1 root root  87832 Jan 14  2017 thrift-0.10.0.zip
-rw-r--r-- 1 root root   3885 Jun  9  2016 thrift_sasl-0.2.1.tar.gz
-rw-r--r-- 1 root root 140861 Dec  3  2016 ym-impyla-0.14.0.tar.gz

3.使用dir2pi命令建立包索引

[root@ip-172-31-6-148 python-packages]# dir2pi /var/www/html/python-packages/
[root@ip-172-31-6-148 python-packages]# ll
total 1784
-rw-r--r--  1 root root   2421 Sep 24  2016 bit_array-0.1.0.tar.gz
-rw-r--r--  1 root root   1254 Sep 12 07:18 enum-compat-0.0.2.tar.gz
-rw-r--r--  1 root root 339017 Sep 12 07:27 pymongo-3.3.0-cp27-cp27mu-manylinux1_x86_64.whl
-rw-r--r--  1 root root 368294 Sep 12 07:25 pymongo-3.5.1-cp27-cp27mu-manylinux1_x86_64.whl
-rw-r--r--  1 root root 799601 Sep 12 07:04 Routes-1.12.3.tar.gz
-rw-r--r--  1 root root  30409 Apr 23  2016 sasl-0.2.1.tar.gz
drwxr-xr-x 11 root root   4096 Sep 12 08:06 simple
-rw-r--r--  1 root root  29630 Apr 21  2016 six-1.10.0.tar.gz
-rw-r--r--  1 root root  87832 Jan 14  2017 thrift-0.10.0.zip
-rw-r--r--  1 root root   3885 Jun  9  2016 thrift_sasl-0.2.1.tar.gz
-rw-r--r--  1 root root 140861 Dec  3  2016 ym-impyla-0.14.0.tar.gz
[root@ip-172-31-6-148 python-packages]#

4.验证Http是否正常访问，访问地址

http://ip-172-31-6-148.fayson.com/python-packages/simple/

至此Python的私有源服务器搭建完成。

3.3配置pip命令使用私有源

1.在当前用户的home目录（即“~”）目录，创建.pip目录

[root@ip-172-31-6-148 ~]# mkdir -p .pip
[root@ip-172-31-6-148 ~]# pwd
/root
[root@ip-172-31-6-148 ~]#

2.在~/.pip目录下新建pip.conf文件，文件内容如下

[root@ip-172-31-6-148 ~]# cd .pip/
[root@ip-172-31-6-148 .pip]# pwd
/root/.pip
[root@ip-172-31-6-148 .pip]# vim pip.conf 
[global]
index-url = http://ip-172-31-6-148.fayson.com/python-packages/simple
[install]
trusted-host = ip-172-31-6-148.fayson.com

3.测试pip命令是否从私有源下载依赖包

[root@ip-172-31-6-148 .pip]# pip install bit-array
Collecting bit-array
  Downloading http://ip-172-31-6-148.fayson.com/python-packages/simple/bit-array/bit-array-0.1.0.tar.gz
Building wheels for collected packages: bit-array
  Running setup.py bdist_wheel for bit-array ... done
  Stored in directory: /root/.cache/pip/wheels/7a/7f/04/3bdc776730b06ce5bedd46f9023d263a32f82941e1365a054f
Successfully built bit-array
Installing collected packages: bit-array
Successfully installed bit-array-0.1.0
[root@ip-172-31-6-148 .pip]#

可以看到上图标注部分显示从刚搭建好的源下载依赖包。

4.pip使用

1.指定版本安装package

 [root@ip-172-31-6-148 ~] pip install SomePackage            # 最新版本 
[root@ip-172-31-6-148 ~] pip install SomePackage==1.0.4     # 具体的版本
[root@ip-172-31-6-148 ~] pip install 'SomePackage>=1.0.4'     # 最低版本

2.批量安装packages

创建文本文件requirements.txt，内容如下

[root@ip-172-31-6-148 ~]# vim requirements.txt
six
bit_array
thrift==0.10.0

使用pip批量安装

[root@ip-172-31-6-148 ~]# pip install -r requirements.txt 
Collecting six (from -r requirements.txt (line 1))
Collecting bit_array (from -r requirements.txt (line 2))
Collecting thrift==0.10.0 (from -r requirements.txt (line 3))
  Downloading http://ip-172-31-6-148.fayson.com/python-packages/simple/thrift/thrift-0.10.0.zip (87kB)
    100% |████████████████████████████████| 92kB 58.1MB/s 
Building wheels for collected packages: thrift
  Running setup.py bdist_wheel for thrift ... done
  Stored in directory: /root/.cache/pip/wheels/21/53/2d/121a953df877103ba4f2fe9041be0d28d6979438c6dd7b2b15
Successfully built thrift
Installing collected packages: six, bit-array, thrift
Successfully installed bit-array-0.1.0 six-1.10.0 thrift-0.10.0
[root@ip-172-31-6-148 ~]#

3.输出当前python环境安装的所有package及版本到指定文件

[root@ip-172-31-6-148 ~]# pip freeze > requirements.txt

4.卸载package

[root@ip-172-31-6-148 ~]# pip uninstall six

5.列出当前Python环境安装的所有package

[root@ip-172-31-6-148 ~]# pip list --format=columns
Package                            Version                
---------------------------------- -----------------------
alabaster                          0.7.9                  
anaconda-clean                     1.0                    
anaconda-client                    1.5.1                  
anaconda-navigator                 1.3.1                  
argcomplete                        1.0.0                  
astroid                            1.4.7                  
astropy                            1.2.1                  
Babel                              2.3.4                  
backports-abc                      0.4

6.查看安装的package详细信息

[root@ip-172-31-6-148 ~]# pip show six
Name: six
Version: 1.10.0
Summary: Python 2 and 3 compatibility utilities
Home-page: http://pypi.python.org/pypi/six/
Author: Benjamin Peterson
Author-email: benjamin@python.org
License: MIT
Location: /opt/cloudera/parcels/Anaconda-4.2.0/lib/python2.7/site-packages
Requires: 
[root@ip-172-31-6-148 ~]#

5.备注

package下载方式

在本地安装pip2pi工具，可以通过pip2tgz命令批量下载package

  1. 在本地创建requirements.txt文件，内容如下
six
bit_array
thrift==0.10.0

由于pip2tgz是通过将参数传递给pip调用来完成包的下载，所以可以指定任何pip可以识别的参数格式。

2.使用pip2tgz命令进行批量下载

[root@ip-172-31-6-148 .pip]# pip2tgz /root/python/ -r /root/requirements.txt

注意：pip命令默认使用的是国外的源下载package，如果国外源不稳定则可以参考3.3章节配置国内源。

6.常见问题

  1. 搭建完Python私有源，pip安装package时报错
[root@ip-172-31-6-148 .pip]# pip install six
Collecting six
  The repository located at ip-172-31-6-148.fayson.com is not a trusted or secure host and is being ignored. If this repository is available via HTTPS it is recommended to use HTTPS instead, otherwise you may silence this warning and allow it anyways with '--trusted-host ip-172-31-6-148.fayson.com'.
  Could not find a version that satisfies the requirement six (from versions: )
No matching distribution found for six
[root@ip-172-31-6-148 .pip]#

解决方法：

在pip.conf文件中增加如下配置：

trusted-host = ip-172-31-6-148.fayson.com

醉酒鞭名马，少年多浮夸！ 岭南浣溪沙，呕吐酒肆下！挚友不肯放，数据玩的花！
温馨提示：要看高清无码套图，请使用手机打开并单击图片放大查看

文章标签：
Python
Web App开发
关键词：
安装Python
Python anaconda
Python安装
anaconda Python
Python集群
hadoop实操
目录
相关文章
米果粒
|
1天前
安装OpenCV-Python
安装OpenCV-Python
米果粒
7 1
同学小张
|
2天前
|
5G Python
Windows11搭建Python环境（Anaconda安装与使用）
Windows11搭建Python环境（Anaconda安装与使用）
同学小张
13 0
蓝易云
|
14天前
|
Ubuntu Python
python3安装clickhouse_sqlalchemy(greenlet) 失败
如果上述方法仍然无法解决问题，建议查阅相关错误信息和官方文档，以获取更详细的帮助。确保你的Python环境和依赖库都在最新版本，有时问题可能会因为版本不兼容而导致安装失败。
蓝易云
18 0
ForcibleBugMaker
|
16天前
|
数据采集 自然语言处理 搜索推荐
一篇博客带你领略学习Python的第三方库---如何获取和安装第三方库，关于三种常见第三方库的下载和讲解（pyinstall库，jieba库，wordcloud库），更多第三方库的分类介绍
一篇博客带你领略学习Python的第三方库---如何获取和安装第三方库，关于三种常见第三方库的下载和讲解（pyinstall库，jieba库，wordcloud库），更多第三方库的分类介绍
ForcibleBugMaker
46 1
hacker707
|
18天前
|
数据采集 机器学习/深度学习 人工智能
Python环境搭建—安装Python3解释器
Python环境搭建—安装Python3解释器
hacker707
34 2
hacker707
|
18天前
|
数据采集 JavaScript C++
Python搭建编程环境-安装Python3解释器
Python搭建编程环境-安装Python3解释器
hacker707
24 1
ghost丶桃子
|
前端开发 关系型数据库 网络安全
python脚本实现集群检测和管理
ghost丶桃子
2471 0
1941623231718325
|
14天前
|
安全 Java 数据处理
Python网络编程基础（Socket编程）多线程/多进程服务器编程
【4月更文挑战第11天】在网络编程中，随着客户端数量的增加，服务器的处理能力成为了一个重要的考量因素。为了处理多个客户端的并发请求，我们通常需要采用多线程或多进程的方式。在本章中，我们将探讨多线程/多进程服务器编程的概念，并通过一个多线程服务器的示例来演示其实现。
1941623231718325
32 0
1941623231718325
|
14天前
|
程序员 开发者 Python
Python网络编程基础（Socket编程） 错误处理和异常处理的最佳实践
【4月更文挑战第11天】在网络编程中，错误处理和异常管理不仅是为了程序的健壮性，也是为了提供清晰的用户反馈以及优雅的故障恢复。在前面的章节中，我们讨论了如何使用`try-except`语句来处理网络错误。现在，我们将深入探讨错误处理和异常处理的最佳实践。
1941623231718325
25 2
叫个什么名字
|
18天前
|
缓存 监控 Python
解密Python中的装饰器：优雅而强大的编程利器
Python中的装饰器是一种强大而又优雅的编程工具，它能够在不改变原有代码结构的情况下，为函数或类添加新的功能和行为。本文将深入解析Python装饰器的原理、用法和实际应用，帮助读者更好地理解和利用这一技术，提升代码的可维护性和可扩展性。
叫个什么名字
29 4

热门文章

最新文章

  • 1
    阿里云 MaxCompute MaxFrame 开启免费邀测，统一 Python 开发生态
  • 2
    使用Python实现DBSCAN聚类算法
  • 3
    在Python Web开发过程中：数据库与缓存，MySQL和NoSQL数据库的主要差异是什么？
  • 4
    流畅的 Python 第二版（GPT 重译）（一）(1)
  • 5
    【Python】python天气数据抓取与数据分析（源码+论文）【独一无二】
  • 6
    Python 学习之路 01基础入门---【Python安装，Python程序基本组成】
  • 7
    流畅的 Python 第二版（GPT 重译）（十一）(1)
  • 8
    Python 数据分析（PYDA）第三版（三）（1）
  • 9
    Python函数使用(四)
  • 10
    Python速成篇（基础语法）上
  • 1
    Python用机器学习算法进行因果推断与增量、增益模型Uplift Modeling智能营销模型
    28
  • 2
    Python用RNN神经网络：LSTM、GRU、回归和ARIMA对COVID19新冠疫情人数时间序列预测
    42
  • 3
    PYTHON用时变马尔可夫区制转换（MARKOV REGIME SWITCHING）自回归模型分析经济时间序列
    13
  • 4
    数据分享|Python决策树、随机森林、朴素贝叶斯、KNN（K-最近邻居）分类分析银行拉新活动挖掘潜在贷款客户
    20
  • 5
    Python监控主机是否存活,并发报警邮件
    5
  • 6
    【Python实用技能】建议收藏：自动化实现网页内容转PDF并保存的方法探索（含代码，亲测可用）
    20
  • 7
    Python 妙用运算符重载——玩出“点”花样来（上）
    25
  • 8
    python 教你如何创建一个自定义库 colorlib.py
    17
  • 9
    Python 一步一步教你用pyglet制作汉诺塔游戏
    14
  • 10
    Python变量类型
    8

    • 相关课程

    更多
  • Python Web开发基础
  • Python开发基础入门
  • Python常用数据科学库
  • Python网络爬虫实战
  • Python完全自学手册图文教程
  • Python基础快速入门实战教程

    • 相关电子书

    更多
  • From Python Scikit-Learn to Sc
  • Data Pre-Processing in Python:
  • 双剑合璧-Python和大数据计算平台的结合

    • 相关实验场景

    更多
  • 用Python画圣诞树
  • 使用Python完成RDS数据开发及分析
  • 安装配置Terraform环境
  • 基于ROS快速部署LNMP环境（CentOS 7）
  • Python选择及循环结构
  • 云端Python及基本操作
    • 下一篇
    部署LAMP环境（Alibaba Cloud Linux 3）