Python编程:windows安装scrapy及报错

简介: Python编程:windows安装scrapy及报错

安装scrapy

官网:https://scrapy.org/download/

使用pip安装,如果失败下载zip安装

 pip install scrapy

遇到的错误

1、安装报错:

# error: command 'cl.exe' failed: No such file or directory

解决:

下载 twisted 并安装

http://www.lfd.uci.edu/~gohlke/pythonlibs/

scrapy正常

1.png

2、运行报错

# ImportError: No module named 'win32api'

安装模块pypiwin32

pip install pypiwin32

3、visual c++ build tools

http://www.microsoft.com/zh-CN/download/details.aspx?id=48159

4、问题:openssl 之不是有效的win 32程序

pip uninstall pyopenssl cryptography
pip install pyopenssl cryptography

5、 问题:ModuleNotFoundError: No module named ‘_cffi_backend’

pip install pypiwin32

6、问题:scrapy shell url 发生TypeError: ‘float’ object is not iterable

pip install twisted==16.6.0

7、问题: Microsoft Visual C++ 14.0 is required


方式1:按照提示下载安装 Microsoft Visual C++ 14.0


visualcppbuildtools_full.exe

vc_redist.x64.exe

安装完以上两个组件之后,依然失败


方式2:方式一不一定好使,推荐下载对应已经编译好的windows版本安装

http://www.lfd.uci.edu/~gohlke/pythonlibs/


///

pip install Twisted-18.7.0-cp36-cp36m-win_amd64.whl

spider环境安装:

pip install  scrapyd_api pypiwin32 redis scrapyd python-scrapyd-api twisted

参考:

  1. 从零开始的 Python 爬虫速成指南
  2. cl.exe’ failed: No such file or directory when installing Scrapy
  3. Scrapy运行ImportError: No module named win32api错误
相关文章
|
JSON 网络协议 机器人
ROSBridge简介以及理解使用(下)
ROSBridge简介以及理解使用(下)
2146 0
|
存储 传感器 数据可视化
3D目标检测数据集 KITTI(标签格式解析、3D框可视化、点云转图像、BEV鸟瞰图)
本文介绍在3D目标检测中,理解和使用KITTI 数据集,包括KITTI 的基本情况、下载数据集、标签格式解析、3D框可视化、点云转图像、画BEV鸟瞰图等,并配有实现代码。
3625 1
|
缓存 资源调度 前端开发
Yarn学习,Yarn安装,Yarn常用命令。这一篇即可(有需要再补充)
Yarn 是一个快速、可靠、安全的 JavaScript 包管理工具,旨在解决 npm 的一些不足之处。
2080 5
|
数据采集 JavaScript 中间件
Node.js的nrm报错:internal/validators.js:125 throw new ERR_INVALID_ARG_TYPE
Node.js的nrm报错:internal/validators.js:125 throw new ERR_INVALID_ARG_TYPE
419 0
|
Linux C语言
CentOS 7 升级 gcc-4.8.5 到 gcc-5.4.0
CentOS 7 升级 gcc-4.8.5 到 gcc-5.4.0
1464 0
|
2天前
|
弹性计算 人工智能 安全
云上十五年——「弹性计算十五周年」系列客户故事(第二期)
阿里云弹性计算十五年深耕,以第九代ECS g9i实例引领算力革新。携手海尔三翼鸟、小鹏汽车、微帧科技等企业,实现性能跃升与成本优化,赋能AI、物联网、智能驾驶等前沿场景,共绘云端增长新图景。
|
8天前
|
存储 弹性计算 人工智能
【2025云栖精华内容】 打造持续领先,全球覆盖的澎湃算力底座——通用计算产品发布与行业实践专场回顾
2025年9月24日,阿里云弹性计算团队多位产品、技术专家及服务器团队技术专家共同在【2025云栖大会】现场带来了《通用计算产品发布与行业实践》的专场论坛,本论坛聚焦弹性计算多款通用算力产品发布。同时,ECS云服务器安全能力、资源售卖模式、计算AI助手等用户体验关键环节也宣布升级,让用云更简单、更智能。海尔三翼鸟云服务负责人刘建锋先生作为特邀嘉宾,莅临现场分享了关于阿里云ECS g9i推动AIoT平台的场景落地实践。
【2025云栖精华内容】 打造持续领先,全球覆盖的澎湃算力底座——通用计算产品发布与行业实践专场回顾
|
7天前
|
人工智能 自然语言处理 自动驾驶
关于举办首届全国大学生“启真问智”人工智能模型&智能体大赛决赛的通知
关于举办首届全国大学生“启真问智”人工智能模型&智能体大赛决赛的通知
|
7天前
|
云安全 人工智能 自然语言处理
阿里云x硅基流动:AI安全护栏助力构建可信模型生态
阿里云AI安全护栏:大模型的“智能过滤系统”。