开发者社区> 问答> 正文

描述一下scrapy框架的运行机制?

描述一下scrapy框架的运行机制?

展开
收起
珍宝珠 2019-11-11 11:17:51 2634 0
2 条回答
写回答
取消 提交回答
  • 从start_urls里面获取第一批url发送请求,请求由请求引擎给调度器入请求对列,获取完毕后,调度器将请求对列交给下载器去获取请求对应的响应资源,并将响应交给自己编写的解析方法做提取处理,如果提取出需要的数据,则交给管道处理,如果提取出url,则继续执行之前的步骤,直到多列里没有请求,程序结束。

    2019-11-11 12:53:10
    赞同 展开评论 打赏
  • 精于基础,广于工具,熟于业务。

    从start_urls里获取第一批url并发送请求,请求由引擎交给调度器入请求队列,获取完毕后,调度器将请求队列里的请求交给下载器去获取请求对应的响应资源,并将响应交给自己编写的解析方法做提取处理。如果取出的是数据,则交给管道处理,如果不是则继续上一步。

    2019-11-11 11:29:11
    赞同 展开评论 打赏
问答分类:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
Swoole2.0原生协程高性能开发实践 立即下载
函数计算最佳实践:快速开发一个分布式 Puppeteer 网页截图服务 立即下载
Python第五讲——关于爬虫如何做js逆向的思路 立即下载