开发者社区> 问答> 正文

Python数据爬取的利器有哪些?

Python数据爬取的利器有哪些?

在日常 PC 端的 Python爬取数据过程工作中,有什么插件可以提升我们的工作效率呢

展开
收起
珍宝珠 2019-12-23 12:16:58 1278 0
1 条回答
写回答
取消 提交回答
  • 不定期更新钉群圈子活动等内容

    EditThisCookie

    EditThisCookie 是一个 Cookie 管理器,可以很方便的添加,删除,编辑,搜索,锁定和屏蔽 Cookies。

    可以将登录后的 Cookies 先保存到本地,借助 cookielib 库,直接爬取登录后的数据。

    避免了抓包和模拟登录,帮助我们快速地进行爬虫。

    Web Scraper

    Web Scraper 是一款免费的、适用于任何人,包含没有任何编程基础的爬虫工具。

    操作简单,只需要鼠标点击和简单的配置,就能快速的爬取 Web 端的数据。它支持复杂的网站结构,数据支持文本、连接、数据块、下拉加载数据块等各种数据类型。

    此外,还能将爬取的数据导出到 CSV 文件中。

    Xpath Helper

    Xpath Helper 是一种结构化网页元素选择器,支持列表和单节点数据获取,

    它可以快速地定位网页元素。

    对比 Beautiful Soup,由于 Xpath 网页元素查找性能更有优势;Xpath 相比正则表达式编写起来更方便。

    编写 Xpath 之后会实时显示匹配的数目和对应的位置,方便我们判断语句是否编写正确。

    Toggle JavaScript

    Toggle JavaScript 插件可以用来检测当前网页哪些元素是通过 AJAX 动态加载的。

    使用它可以快速在容许加载 JS 、禁止加载 JS 两种模式中切换。

    User-Agent Switcher for Chrome

    User-Agent Switcher for Chrome 插件可以很方便的修改浏览器的 User-Agent。

    可以模拟不同的浏览器、客户端,包含 Android、IOS 去模拟请求。

    对于一些特殊网站,切换 User-Agent 可以更方便地进行数据爬取。

    JSON-handle

    JSON-handle 是一款功能强大的 JSON 数据解析 Chrome 插件。

    它以简单清晰的树形图样式展现 JSON 文档,并可实时编辑。

    针对数据量大的场景,可以做局部选取分析

    2019-12-23 12:25:41
    赞同 展开评论 打赏
问答分类:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
From Python Scikit-Learn to Sc 立即下载
Data Pre-Processing in Python: 立即下载
双剑合璧-Python和大数据计算平台的结合 立即下载