开发者社区 问答 正文

scrapy和scrapy-redis有什么区别?

scrapy和scrapy-redis有什么区别?

展开
收起
真的很搞笑 2021-11-02 23:18:37 395 分享 版权
1 条回答
写回答
取消 提交回答
  • scrapy是一个Python爬虫框架,爬取效率极高,具有高度定制性,但是不支持分布式。而scrapy-redis一套基于redis数据库、运行在scrapy框架之上的组件,可以让scrapy支持分布式策略,Slaver端共享Master端redis数据库里的item队列、请求队列和请求指纹集合。

    2021-11-02 23:18:51
    赞同 展开评论