如何使用Request方法发送Post请求、JSON文件介绍、Python中的JSON数据以及获取到的JSON数据的解析。

简介: 如何使用Request方法发送Post请求、JSON文件介绍、Python中的JSON数据以及获取到的JSON数据的解析。

前言


使用接口爬取数据用!


一、Request中的Post方法相关参数介绍以及实战


1-1、Post方法


参数介绍

url: 必填,请求的网址

data: 选填,字典,元组列表,字节或者要发送到URL的文件对象。

json: 可选,发送到指定URL的JSON对象。

files: 可选,要发送到URL的文件字典

allow_redirects:可选。用于启用/禁用重定向的布尔值。

默认True(允许重定向)

auth: 可选。用于启用某种HTTP身份验证的元组。

默认None

cert:可选。指定证书文件或密钥的字符串或元组。

默认None

cookies: 可选。要发送到指定网址的Cookie字典。

默认None

headers:可选。要发送到指定网址的HTTP标头字典。

默认None

proxies: 可选。URL代理协议字典。

默认None

stream: 可选。如果响应应立即下载(False)或流式传输(True)的布尔指示。

默认False

timeout: 可选。一个数字或一个元组,指示等待客户端建立连接和/或发送响应的秒数。

默认值None表示请求将继续,直到连接关闭。

verify: 可选。用于验证服务器TLS证书的布尔值或字符串指示。默认True


1-2、实战

import requests
import configparser
import pprint
import json
url = '这里写具体的url'
    json = {
        '这里写具体要获取的资源,字典格式'
    }
    headers = {
        "User-Agent": '这里写用户代理的一些信息,打开网站,点检查,点网络,点击下边的第一个元素,在请求标头下找到User-Agent贴过来',
        "cookie": '和找到User-Agent方法一样,在下边找到cookie'}
    session = requests.session()
    # 传入相关参数,开始请求
    response = session.post(url=url, json=json , headers=headers)
    pprint.pprint(json.loads(response.text))
    return response


二、JSON文件介绍以及解析

2-1、JSON文件介绍

# JSON格式是网站和API使用的通用标准格式,它是一种数据结构,将对象用文本形式表示出来。
# JSON格式字符串示例:
# JSON数据看起来像是一个Python字典,以键值对的形式传递数据。然而,JSON数据也可以是字符串、数字、布尔值或者是列表。
{
   "name": "United States",
   "population": 331002651,
   "capital": "Washington D.C.",
   "languages": [
  "English",
  "Spanish"
   ]
}
# 在JSON流行之前,XML是更常见的选择,但是看起来相对比较复杂
# XML相同信息示例:
<?xml version="1.0" encoding="UTF-8"?>
<country>
   <name>United States</name>
   <population>331002651</population>
   <capital>Washington D.C.</capital>
   <languages>
       <language>English</language>
       <language>Spanish</language>
   </languages>
</country>

2-2、Python中的JSON模块以及解析JSON数据

# Python原生支持JSON数据,Python Json模块是标准库的一部分。
# 这个JSON模块可以将JSON数据从JSON格式转换为等效的Python对象,例如字典和列表,还可以反向转换。
# 将JSON字符串解析为Python字典(解析为什么格式的数据主要看输入的数据是什么)
# eg:
import json
country = '{"name": "United States", "population": 331002651}'
# loads: 代表的是字符串,loads方法用于读取JSON字符串。
country_dict = json.loads(country)
# country_dict 此时已经是Python字典
# 除了loads()方法,还有load()方法,load()用于读取文件中的JSON数据。load()方法接收一个文件对象并返回解析为Python对象的JSON数据。


2-3、将python对象转换为JSON字符串

# 将Python对象转换为JSON对象也称为序列化或JSON编码。可以使用函数dumps()来实现。
import json
languages = ["English","French"]
country = {
       "name": "Canada",
       "population": 37742154,
       "languages": languages,
       "president": None,
}
country_string = json.dumps(country)
print(country_string)

结果

{"name": "Canada", "population": 37742154, "languages": ["English", "French"],
 "president": null}


三、requests.post()和session.post()的区别

3-1、requests.post用法

import requests
response = requests.post(url=url)

3-2、session.post用法

import requests
session = requests.session()
response = session.post(url=url)
# 获取到cookies
cookie = session.cookies


3-3、区别


requests.post:在调用完成后就关闭了连接,所以cookies就随着connect的消亡而消亡。

session.post:高级用法,未关闭上下文连接,会话一直保持在连接池内,即cookies是一直有效的。


总结


1、request占用资源较少,安全性比较高,但是无法获取到特别多的信息。

2、session相对来说消耗资源较多,安全性相对较低,但是可以获取到更多的信息,例如cookies。

3、request相当于某一次访问的局域变量,session相当于客户端的全局变量。


参考文章:

Python Requests post() 方法.

request和session的区别.

使用Python读取和解析JSON数据教程.

python调用request.post请求与Postman方法.


总结


爱情只会影响我敲代码的速度!




相关文章
|
5天前
|
弹性计算 运维 Shell
|
5天前
|
缓存 负载均衡 网络协议
【亮剑】一次完整的 HTTP 请求过程,包括 DNS 解析、TCP 握手、HTTP 请求和响应等环节
【4月更文挑战第30天】本文介绍了HTTP请求的重要性和详细过程。首先,DNS解析将域名转换为IP地址,通过递归和迭代查询找到目标服务器。接着,TCP三次握手建立连接。然后,客户端发送HTTP请求,服务器处理请求并返回响应。最后,理解这个过程有助于优化网站性能,如使用DNS缓存、HTTP/2、Keep-Alive、CDN和负载均衡等实践建议。
|
5天前
项目管理工具计划模板解析:项目管理工具的双重功能与创建方法
本文介绍了项目计划模板的含义和重要性。项目计划模板是用于规划项目结构的可编辑文档,帮助团队明确任务、分配责任和管理时间。模板有助于跟踪项目进度、避免任务冲突,并简化会议安排。创建模板通常涉及选择合适的项目管理工具,如Zoho Projects或Microsoft Excel,然后分解任务、定义日期并持续调整。在Zoho Projects中,用户可以按步骤创建模板,包括命名、添加任务和设置相关细节。
14 0
|
5天前
|
Linux API Python
【python】如何通过python来发邮件,各种发邮件方式详细解析
【python】如何通过python来发邮件,各种发邮件方式详细解析
|
5天前
|
JavaScript 前端开发 算法
vue生命周期函数原理解析,vue阻止事件冒泡方法实现
vue生命周期函数原理解析,vue阻止事件冒泡方法实现
|
6天前
|
Python
使用Python解析网页和正则表达式
使用Python解析网页涉及`requests`和`re`模块。首先导入这两个模块,然后用`requests.get()`发送HTTP请求获取URL内容。通过`.text`属性得到HTML文本。接着,利用正则表达式和`re.search()`匹配特定模式(如网页标题),并用`.group(1)`获取匹配数据。最后,对提取的信息进行处理,如打印标题。实际操作时,需根据需求调整正则表达式。
12 2
|
6天前
|
并行计算 数据处理 开发者
Python并发编程:解析异步IO与多线程
本文探讨了Python中的并发编程技术,着重比较了异步IO和多线程两种常见的并发模型。通过详细分析它们的特点、优劣势以及适用场景,帮助读者更好地理解并选择适合自己项目需求的并发编程方式。
|
7天前
|
前端开发 API UED
AngularJS的$http服务:深入解析与进行HTTP请求的技术实践
【4月更文挑战第28天】AngularJS的$http服务是核心组件,用于发起HTTP请求与服务器通信。$http服务简化了通信过程,通过深入理解和实践,能构建高效、可靠的前端应用。
|
7天前
|
数据采集 存储 大数据
Python爬虫:数据获取与解析的艺术
本文介绍了Python爬虫在大数据时代的作用,重点讲解了Python爬虫基础、常用库及实战案例。Python因其简洁语法和丰富库支持成为爬虫开发的优选语言。文中提到了requests(发送HTTP请求)、BeautifulSoup(解析HTML)、Scrapy(爬虫框架)、Selenium(处理动态网页)和pandas(数据处理分析)等关键库。实战案例展示了如何爬取电商网站的商品信息,包括确定目标、发送请求、解析内容、存储数据、遍历多页及数据处理。最后,文章强调了遵守网站规则和尊重隐私的重要性。
17 2
|
27天前
|
JSON 前端开发 Java
Json格式数据解析
Json格式数据解析

推荐镜像

更多