程序员必知:【12.5】asyncio模拟http请求

简介: 程序员必知:【12.5】asyncio模拟http请求

1 #!/usr/bin/env python

2 # -- coding:utf-8 --

3 # asyncio 没有提供http协议的接口

4 import asyncio

5 import time

6 from urllib.parse import urlparse

7

8

9 async def get_url(url):

10 url = urlparse(url)

11 host = url.netloc

12 path = url.path

13 if path == '':

14 path = '/'

15

16 # 建立连接

17 # asyncio.open_connection是一个协程

18 reader, writer = await asyncio.open_connection(host, 80)

19 writer.write("GET {} HTTP/1.1\r\nHost:{}\r\nConnection:close\r\n\r\n".format(path, host).encode('utf-8'))

20 all_lines = 【】

21 async for raw_line in reader:

22 line = raw_line.decode('utf-8')

23 all_lines.append(line)

24 html = '\n'.join(all_lines)

25 return html

26

27

28 async def main():

29 tasks = 【】

30 for url in range(1, 21):

31 url = ''.format(url)

32 tasks.append(asyncio.ensure_future(get_url(url)))

33 for task in asyncio.as_completed(tasks):

34 # asyncio.as_completed返回的是一个协程

35 result = await task

36 //代码效果参考:http://www.zidongmutanji.com/zsjx/353591.html print(result)

37

38

39 if name == 'main':

40 start_time = time.time()

41 loop = asyncio.get_event_loop()

42 loop.run_until_complete(main())

43 print('last time:{}'.format(time.time() - start_time))

?123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394395396397398399400401402403404405406407408409410411412413414415416417418419420421HTTP/1.1 200 OK Server: nginx/1.12.2 Date: Mon, 19 Aug 2019 11:38:06 GMT Content-Type: application/json Content-Length: 1497 Connection: close Vary: Accept, Cookie Allow: GET, HEAD, OPTIONS X-Frame-Options: SAMEORIGIN {"id":1,"category":{"id":129,"sub_cat":【】,"name":"根茎类","code":"gjl","desc":"","category_type":2,"is_tab

相关文章
|
10天前
|
缓存 前端开发 API
|
15天前
|
数据采集 前端开发 算法
Python Requests 的高级使用技巧:应对复杂 HTTP 请求场景
本文介绍了如何使用 Python 的 `requests` 库应对复杂的 HTTP 请求场景,包括 Spider Trap(蜘蛛陷阱)、SESSION 访问限制和请求频率限制。通过代理、CSS 类链接数控制、多账号切换和限流算法等技术手段,提高爬虫的稳定性和效率,增强在反爬虫环境中的生存能力。文中提供了详细的代码示例,帮助读者掌握这些高级用法。
Python Requests 的高级使用技巧:应对复杂 HTTP 请求场景
|
4天前
|
前端开发 JavaScript Java
如何捕获和处理HTTP GET请求的异常
如何捕获和处理HTTP GET请求的异常
|
6天前
|
开发者
HTTP 协议请求方法的发展历程
【10月更文挑战第21天】
|
6天前
|
安全
HTTP 协议的请求方法
【10月更文挑战第21天】
|
6天前
|
缓存 安全 前端开发
HTTP 协议的请求方法在实际应用中有哪些注意事项?
【10月更文挑战第29天】HTTP协议的请求方法在实际应用中需要根据具体的业务场景和需求,合理选择和使用,并注意各种方法的特点和限制,以确保网络通信的安全、高效和数据的一致性。
|
10天前
|
安全 API 数据安全/隐私保护
常见的HTTP请求方法
【10月更文挑战第25天】这些HTTP请求方法共同构成了客户端与服务器之间交互的基础,使得客户端能够根据不同的需求对服务器资源进行各种操作。在实际应用中,开发者需要根据具体的业务场景和资源的性质选择合适的请求方法来实现客户端与服务器之间的有效通信。
|
14天前
|
存储 安全 网络协议
HTTP 请求方法
【10月更文挑战第22天】HTTP 请求方法
27 2
|
14天前
|
缓存 JSON 安全
HTTP请求发送方法
HTTP请求发送方法【10月更文挑战第22天】
31 2
|
15天前
|
安全 网络安全 开发者
概述HTTP请求方法
【10月更文挑战第19天】HTTP定义了一组方法,包括GET、HEAD、PUT、POST、TRACE、OPTIONS和DELETE等。GET和HEAD被认为是安全的,不会在服务器上产生结果。GET用于请求资源,HEAD则仅请求资源的头部信息。PUT用于上传文件,POST用于提交数据,TRACE用于诊断请求路径上的修改情况,OPTIONS查询服务器支持的功能,DELETE请求删除资源。此外,HTTP还支持扩展方法,以适应新特性的发展。

热门文章

最新文章

下一篇
无影云桌面