Python编程:windows安装scrapy及报错

简介: Python编程:windows安装scrapy及报错

安装scrapy

官网:https://scrapy.org/download/

使用pip安装,如果失败下载zip安装


pip install scrapy


遇到的错误

1、安装报错:


# error: command 'cl.exe' failed: No such file or directory


解决:

下载 twisted 并安装

http://www.lfd.uci.edu/~gohlke/pythonlibs/


scrapy正常

image.png


2、运行报错


# ImportError: No module named 'win32api'


安装模块pypiwin32


pip install pypiwin32


3、visual c++ build tools

http://www.microsoft.com/zh-CN/download/details.aspx?id=48159


4、问题:openssl 之不是有效的win 32程序


pip uninstall pyopenssl cryptography

pip install pyopenssl cryptography


5、 问题:ModuleNotFoundError: No module named ‘_cffi_backend’


pip install pypiwin32

1

6、问题:scrapy shell url 发生TypeError: ‘float’ object is not iterable


pip install twisted==16.6.0


7、问题: Microsoft Visual C++ 14.0 is required


方式1:按照提示下载安装 Microsoft Visual C++ 14.0


visualcppbuildtools_full.exe

vc_redist.x64.exe

安装完以上两个组件之后,依然失败


方式2:方式一不一定好使,推荐下载对应已经编译好的windows版本安装

http://www.lfd.uci.edu/~gohlke/pythonlibs/


pip install Twisted-18.7.0-cp36-cp36m-win_amd64.whl


spider环境安装:

pip install  scrapyd_api pypiwin32 redis scrapyd python-scrapyd-api twisted


参考:


从零开始的 Python 爬虫速成指南


cl.exe’ failed: No such file or directory when installing Scrapy


Scrapy运行ImportError: No module named win32api错误


相关文章
|
8月前
|
数据采集 机器学习/深度学习 人工智能
Python:现代编程的首选语言
Python:现代编程的首选语言
1227 102
|
8月前
|
数据采集 机器学习/深度学习 算法框架/工具
Python:现代编程的瑞士军刀
Python:现代编程的瑞士军刀
456 104
|
8月前
|
人工智能 自然语言处理 算法框架/工具
Python:现代编程的首选语言
Python:现代编程的首选语言
354 103
|
8月前
|
机器学习/深度学习 人工智能 数据挖掘
Python:现代编程的首选语言
Python:现代编程的首选语言
351 82
|
7月前
|
Python
Python编程:运算符详解
本文全面详解Python各类运算符,涵盖算术、比较、逻辑、赋值、位、身份、成员运算符及优先级规则,结合实例代码与运行结果,助你深入掌握Python运算符的使用方法与应用场景。
458 3
|
7月前
|
数据处理 Python
Python编程:类型转换与输入输出
本教程介绍Python中输入输出与类型转换的基础知识,涵盖input()和print()的使用,int()、float()等类型转换方法,并通过综合示例演示数据处理、错误处理及格式化输出,助你掌握核心编程技能。
676 3
|
7月前
|
并行计算 安全 计算机视觉
Python多进程编程:用multiprocessing突破GIL限制
Python中GIL限制多线程性能,尤其在CPU密集型任务中。`multiprocessing`模块通过创建独立进程,绕过GIL,实现真正的并行计算。它支持进程池、队列、管道、共享内存和同步机制,适用于科学计算、图像处理等场景。相比多线程,多进程更适合利用多核优势,虽有较高内存开销,但能显著提升性能。合理使用进程池与通信机制,可最大化效率。
476 3
|
7月前
|
Java 调度 数据库
Python threading模块:多线程编程的实战指南
本文深入讲解Python多线程编程,涵盖threading模块的核心用法:线程创建、生命周期、同步机制(锁、信号量、条件变量)、线程通信(队列)、守护线程与线程池应用。结合实战案例,如多线程下载器,帮助开发者提升程序并发性能,适用于I/O密集型任务处理。
686 0
|
8月前
|
数据采集 机器学习/深度学习 人工智能
Python:现代编程的多面手
Python:现代编程的多面手
355 0
|
8月前
|
存储 人工智能 算法
Python实现简易成语接龙小游戏:从零开始的趣味编程实践
本项目将中国传统文化与编程思维相结合,通过Python实现成语接龙游戏,涵盖数据结构、算法设计与简单AI逻辑,帮助学习者在趣味实践中掌握编程技能。
654 0

推荐镜像

更多