昨天有学员问我爬虫的问题，说xpath语法写出来没数据。其实可能是其他地方错了，而不是xpath语法的问题，我们需要学会找错误的原因。
- 打印下请求的内容，看有没有你要的数据。
- 没有的话，是不是请求错误。
- 请求成功是不是异步加载。
这样一步步排错。
今天继续这位学员的问题，他需要爬取微打赏的数据。
网站分析
-
打开网站，翻页网页不变，看看是post的请求，很好办，直接把参数怼进去，这里只要切换page就能进行翻页。
Python爬虫之微打赏爬虫
2017-07-25
831
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
昨天有学员问我爬虫的问题，说xpath语法写出来没数据。其实可能是其他地方错了，而不是xpath语法的问题，我们需要学会找错误的原因。打印下请求的内容，看有没有你要的数据。
目录
相关文章
|
1月前
|
数据采集
存储
XML
Python爬虫：深入探索1688关键词接口获取之道
在数字化经济中，数据尤其在电商领域的价值日益凸显。1688作为中国领先的B2B平台，其关键词接口对商家至关重要。本文介绍如何通过Python爬虫技术，合法合规地获取1688关键词接口，助力商家洞察市场趋势，优化营销策略。
81
3
4
|
2天前
|
数据采集
供应链
API
Python爬虫与1688图片搜索API接口：深度解析与显著收益
在电子商务领域，数据是驱动业务决策的核心。阿里巴巴旗下的1688平台作为全球领先的B2B市场，提供了丰富的API接口，特别是图片搜索API（`item_search_img`），允许开发者通过上传图片搜索相似商品。本文介绍如何结合Python爬虫技术高效利用该接口，提升搜索效率和用户体验，助力企业实现自动化商品搜索、库存管理优化、竞品监控与定价策略调整等，显著提高运营效率和市场竞争力。
20
3
3
|
13天前
|
数据采集
存储
缓存
|
14天前
|
数据采集
Web App开发
监控
|
22天前
|
数据采集
JSON
API
如何利用Python爬虫淘宝商品详情高级版（item_get_pro）API接口及返回值解析说明
本文介绍了如何利用Python爬虫技术调用淘宝商品详情高级版API接口（item_get_pro），获取商品的详细信息，包括标题、价格、销量等。文章涵盖了环境准备、API权限申请、请求构建和返回值解析等内容，强调了数据获取的合规性和安全性。
77
13
13
|
28天前
|
数据采集
存储
API
利用Python爬虫获取1688关键词接口全攻略
本文介绍如何使用Python爬虫技术合法合规地获取1688关键词接口数据，包括环境准备、注册1688开发者账号、获取Access Token、构建请求URL、发送API请求、解析HTML及数据处理存储等步骤，强调遵守法律法规和合理使用爬虫技术的重要性。
88
5
5
|
1月前
|
数据采集
JSON
开发者
Python爬虫京东商品详情数据接口
京东商品详情数据接口（JD.item_get）提供商品标题、价格、品牌、规格、图片等详细信息，适用于电商数据分析、竞品分析等。开发者需先注册账号、创建应用并申请接口权限，使用时需遵循相关规则，注意数据更新频率和错误处理。示例代码展示了如何通过 Python 调用此接口并处理返回的 JSON 数据。
63
5
5
|
2月前
|
XML
数据采集
数据格式
Python 爬虫必备杀器，xpath 解析 HTML
【11月更文挑战第17天】XPath 是一种用于在 XML 和 HTML 文档中定位节点的语言，通过路径表达式选取节点或节点集。它不仅适用于 XML，也广泛应用于 HTML 解析。基本语法包括标签名、属性、层级关系等的选择，如 `//p` 选择所有段落标签，`//a[@href='example.com']` 选择特定链接。在 Python 中，常用 lxml 库结合 XPath 进行网页数据抓取，支持高效解析与复杂信息提取。高级技巧涵盖轴的使用和函数应用，如 `contains()` 用于模糊匹配。
78
7
8
|
2月前
|
数据采集
XML
存储
构建高效的Python网络爬虫：从入门到实践
本文旨在通过深入浅出的方式，引导读者从零开始构建一个高效的Python网络爬虫。我们将探索爬虫的基本原理、核心组件以及如何利用Python的强大库进行数据抓取和处理。文章不仅提供理论指导，还结合实战案例，让读者能够快速掌握爬虫技术，并应用于实际项目中。无论你是编程新手还是有一定基础的开发者，都能在这篇文章中找到有价值的内容。
111
3
3
|
2月前
|
数据采集
JavaScript
前端开发
Python爬虫能处理动态加载的内容吗？
Python爬虫可处理动态加载内容，主要方法包括：使用Selenium模拟浏览器行为；分析网络请求，直接请求API获取数据；利用Pyppeteer控制无头Chrome。这些方法各有优势，适用于不同场景。
78
1
1