Crawler之Scrapy:Scrapy简介、安装、使用方法之详细攻略

简介: Crawler之Scrapy:Scrapy简介、安装、使用方法之详细攻略

scrapy简介


   Scrapy是Python开发的一个快速、高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化的数据。Scrapy用途广泛,可以用于数据挖掘、监测和自动化测试。 Scrapy吸引人的地方在于它是一个框架,任何人都可以根据需求方便的修改。它也提供了多种类型爬虫的基类,如BaseSpider、sitemap爬虫等,最新版本又提供了web2.0爬虫的支持。


这次我们使用Python3版本进行安装scrapy,如果是其他python2.版本安装请参考链接,Python 2.7安装scrapy指南


Scrapy进行安装


pip install Scrapy

image.png



如果安装中出现错误,请根据下边的几个错误,分别进行处理,最后测试成功即可!


1、当安装过程中出现了红色的错误:Failed building wheel for Twisted


然后去这个网址https://www.lfd.uci.edu/~gohlke/pythonlibs/,下载与你python版本,相应的Twisted版本


image.png


2、接着安装这个whl文件

image.png



3、当安装过程中出现了这个白色错误:error: Microsoft Visual C++ 14.0 is required. Get it with "Microsoft Visual C++ Build Tools": http://landinghub.visualstudio.com/visual-cpp-build-tools


Command ""f:\program files\python\python36\python.exe" -u -c "import setuptools, tokenize;__file__='C:\\Users\\99386\\AppData\\Local\\Temp\\pip-build-w06f16db\\Twisted\\setup.py';f=getattr(tokenize, 'open', open)(__file__);code=f.read().replace('\r\n', '\n');f.close();exec(compile(code, __file__, 'exec'))" install --record C:\Users\99386\AppData\Local\Temp\pip-6otgh__e-record\install-record.txt --single-version-externally-managed --compile" failed with error code 1 in C:\Users\99386\AppData\Local\Temp\pip-build-w06f16db\Twisted\




4、最后测试一下,是否安装成功




哈哈,大功告成!


相关文章
|
6月前
|
数据采集 前端开发 Shell
Scrapy框架简介
Scrapy框架简介
|
8月前
|
NoSQL MongoDB Docker
百度搜索:蓝易云【Scrapy框架之Docker安装MongoDB教程。】
现在,你已经成功在Scrapy框架中使用Docker安装并配置了MongoDB。你可以在Scrapy爬虫中使用MongoDB进行数据存储和处理。
252 0
|
Shell Linux Python
关于Python安装Scrapy库的常见报错解决
关于Python安装Scrapy库的常见报错解决
708 0
|
数据采集 搜索推荐 中间件
【 ⑬】Scrapy库概述(简介、安装与基本使用)
【 ⑬】Scrapy库概述(简介、安装与基本使用)
196 0
|
Python Windows
Anaconda详细安装及安装Scrapy框架
Anaconda详细安装及安装Scrapy框架
369 0
|
Python Windows
python怎么安装第三方库,python国内镜像源,终于找到最全的安装教程啦;如Requests,Scrapy,NumPy,matplotlib,Pygame,Pyglet,Tkinter
python怎么安装第三方库,python国内镜像源,终于找到最全的安装教程啦;如Requests,Scrapy,NumPy,matplotlib,Pygame,Pyglet,Tkinter
1563 0
|
Python Windows
在 windows系统中安装 Scrapy详细过程
在 windows系统中安装 Scrapy详细过程
371 0
在 windows系统中安装 Scrapy详细过程
|
IDE 开发工具 Python
scrapy安装详解--秒懂!
scrapy安装详解--秒懂!
231 0
scrapy安装详解--秒懂!
|
C++ Python
Windows10,python3.8安装scrapy
Windows10,python3.8安装scrapy
190 0
Windows10,python3.8安装scrapy
|
数据采集 NoSQL Shell
Python编程:windows安装scrapy及报错
Python编程:windows安装scrapy及报错
255 0
Python编程:windows安装scrapy及报错