【安全合规】python爬虫从0到1 -Requests库的基本使用(get/post请求)

简介: python爬虫从0到1 -Requests库的基本使用(get/post请求)

文章目录

前言

(一)requests的get请求

1. 导入requests库

2. 定义url地址以及请求头

3. 返回响应数据

4. 将数据打印

总结(对比urllib库的get请求)

(二)requests库的post请求(百度翻译)

1. 导入requests库

2.定义url地址以及请求头

3. 返回响应数据

4.将数据转换为json格式并打印

总结(对比urllib库的post请求)


前言

上文我们已经了解了requests库的基本概念,下面我们一起进入Requests库的get请求和post请求实例。

image.png

(一)requests的get请求

1. 导入requests库

import requests

2. 定义url地址以及请求头

url = 'https://www.baidu.com/s?'
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36'
}
data = {
    'wd':'上海'
}

3. 返回响应数据image.png

response =  requests.get(url = url , params = data ,headers = headers )

4. 将数据打印

content = response.text
print(content)

总结(对比urllib库的get请求)

1.参数使用params传递。

2.参数无需使用urlencoding编码

3.不需要请求对象的定制

4.请求资源路径url中的?可要可不要

(二)requests库的post请求(百度翻译)

1. 导入requests库

import requests
import json

定义url地址以及请求头

url = 'https://fanyi.baidu.com/sug'
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36'
}
data = {
    'kw':'sign'
}

3. 返回响应数据image.png

response = requests.post(url = url ,data = data ,headers = headers )

4.将数据转换为json格式并打印

content = response.text
obj = json.loads(content)
print(obj)

运行结果:image.png

总结(对比urllib库的post请求)

1.post请求不需要编解码

2.post请求的参数是data

3.不需要请求对象的定制

相关文章
|
8月前
|
存储 Web App开发 前端开发
Python + Requests库爬取动态Ajax分页数据
Python + Requests库爬取动态Ajax分页数据
|
8月前
|
JSON 网络安全 数据格式
Python网络请求库requests使用详述
总结来说,`requests`库非常适用于需要快速、简易、可靠进行HTTP请求的应用场景,它的简洁性让开发者避免繁琐的网络代码而专注于交互逻辑本身。通过上述方式,你可以利用 `requests`处理大部分常见的HTTP请求需求。
653 51
|
7月前
|
数据采集 存储 Web App开发
Python爬虫库性能与选型实战指南:从需求到落地的全链路解析
本文深入解析Python爬虫库的性能与选型策略,涵盖需求分析、技术评估与实战案例,助你构建高效稳定的数据采集系统。
549 0
|
8月前
|
数据采集 API 调度
Python爬虫框架对比:Scrapy vs Requests在API调用中的应用
本文对比了 Python 中 Scrapy 与 Requests 两大爬虫框架在 API 调用中的差异,涵盖架构设计、调用模式、性能优化及适用场景,并提供实战建议,助力开发者根据项目需求选择合适工具。
|
11月前
|
数据采集 测试技术 C++
无headers爬虫 vs 带headers爬虫:Python性能对比
无headers爬虫 vs 带headers爬虫:Python性能对比
|
数据采集 存储 JSON
Python网络爬虫:Scrapy框架的实战应用与技巧分享
【10月更文挑战第27天】本文介绍了Python网络爬虫Scrapy框架的实战应用与技巧。首先讲解了如何创建Scrapy项目、定义爬虫、处理JSON响应、设置User-Agent和代理,以及存储爬取的数据。通过具体示例,帮助读者掌握Scrapy的核心功能和使用方法,提升数据采集效率。
622 6
|
11月前
|
数据采集 存储 监控
Python 原生爬虫教程:网络爬虫的基本概念和认知
网络爬虫是一种自动抓取互联网信息的程序,广泛应用于搜索引擎、数据采集、新闻聚合和价格监控等领域。其工作流程包括 URL 调度、HTTP 请求、页面下载、解析、数据存储及新 URL 发现。Python 因其丰富的库(如 requests、BeautifulSoup、Scrapy)和简洁语法成为爬虫开发的首选语言。然而,在使用爬虫时需注意法律与道德问题,例如遵守 robots.txt 规则、控制请求频率以及合法使用数据,以确保爬虫技术健康有序发展。
1433 31
|
10月前
|
数据采集 存储 NoSQL
分布式爬虫去重:Python + Redis实现高效URL去重
分布式爬虫去重:Python + Redis实现高效URL去重
|
机器学习/深度学习 数据采集 数据可视化
基于爬虫和机器学习的招聘数据分析与可视化系统,python django框架,前端bootstrap,机器学习有八种带有可视化大屏和后台
本文介绍了一个基于Python Django框架和Bootstrap前端技术,集成了机器学习算法和数据可视化的招聘数据分析与可视化系统,该系统通过爬虫技术获取职位信息,并使用多种机器学习模型进行薪资预测、职位匹配和趋势分析,提供了一个直观的可视化大屏和后台管理系统,以优化招聘策略并提升决策质量。
969 4

推荐镜像

更多