开发者社区> 问答> 正文

scrapy中如何实现的记录爬虫的深度?

scrapy中如何实现的记录爬虫的深度?

展开
收起
珍宝珠 2019-11-22 13:58:51 2105 0
1 条回答
写回答
取消 提交回答
  • 'DepthMiddleware'是一个用于追踪每个Request在被爬取的网站的深度的中间件。 
    其可以用来限制爬取深度的最大深度或类似的事情。
    'DepthMiddleware'可以通过下列设置进行配置(更多内容请参考设置文档):
    
    'DEPTH_LIMIT':爬取所允许的最大深度,如果为0,则没有限制。
    'DEPTH_STATS':是否收集爬取状态。
    'DEPTH_PRIORITY':是否根据其深度对requet安排优先
    
    2019-11-22 13:59:04
    赞同 展开评论 打赏
问答分类:
问答标签:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
Python第五讲——关于爬虫如何做js逆向的思路 立即下载
QQ移送页面框架优化实践 立即下载
QQ移动页面框架优化实践 立即下载