开发者社区 问答 正文

scrapy 和 requests的区别是什么?

scrapy 和 requests的区别是什么?

展开
收起
芯在这 2021-12-07 11:24:20 1075 分享 版权
1 条回答
写回答
取消 提交回答
  • scrapy 是封装起来的框架,他包含了下载器,解析器,日志及异常处理,基于多线程, twisted 的方式处理,对于固定单个网站的爬取开发,有优势,但是对于多网站爬取 100 个网站,并发及分布式处理方面,不够灵活,不便调整与括展。

    requests 是一个 HTTP 库, 它只是用来,进行请求,对于 HTTP 请求,他是一个强大的库,下载,解析全部自己处理,灵活性更高,高并发与分布式部署也非常灵活,对于功能可以更好实现.

    2021-12-07 11:24:35
    赞同 展开评论
问答分类:
问答地址: