开发者社区 问答 正文

scrapy-redis组件的作用?

scrapy-redis组件的作用?

展开
收起
珍宝珠 2019-11-22 14:06:36 1483 分享 版权
1 条回答
写回答
取消 提交回答
  • 实现了分布式爬虫,url去重、调度器、数据持久化
    'scheduler'调度器
    'dupefilter'URL去重规则(被调度器使用)
    'pipeline'数据持久化

    2019-11-22 14:07:19
    赞同 展开评论