程序员必知:【12.5】asyncio模拟http请求

简介: 程序员必知:【12.5】asyncio模拟http请求

1 #!/usr/bin/env python

2 # -- coding:utf-8 --

3 # asyncio 没有提供http协议的接口

4 import asyncio

5 import time

6 from urllib.parse import urlparse

7

8

9 async def get_url(url):

10 url = urlparse(url)

11 host = url.netloc

12 path = url.path

13 if path == '':

14 path = '/'

15

16 # 建立连接

17 # asyncio.open_connection是一个协程

18 reader, writer = await asyncio.open_connection(host, 80)

19 writer.write("GET {} HTTP/1.1\r\nHost:{}\r\nConnection:close\r\n\r\n".format(path, host).encode('utf-8'))

20 all_lines = 【】

21 async for raw_line in reader:

22 line = raw_line.decode('utf-8')

23 all_lines.append(line)

24 html = '\n'.join(all_lines)

25 return html

26

27

28 async def main():

29 tasks = 【】

30 for url in range(1, 21):

31 url = ''.format(url)

32 tasks.append(asyncio.ensure_future(get_url(url)))

33 for task in asyncio.as_completed(tasks):

34 # asyncio.as_completed返回的是一个协程

35 result = await task

36 //代码效果参考:http://www.zidongmutanji.com/zsjx/353591.html print(result)

37

38

39 if name == 'main':

40 start_time = time.time()

41 loop = asyncio.get_event_loop()

42 loop.run_until_complete(main())

43 print('last time:{}'.format(time.time() - start_time))

?123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394395396397398399400401402403404405406407408409410411412413414415416417418419420421HTTP/1.1 200 OK Server: nginx/1.12.2 Date: Mon, 19 Aug 2019 11:38:06 GMT Content-Type: application/json Content-Length: 1497 Connection: close Vary: Accept, Cookie Allow: GET, HEAD, OPTIONS X-Frame-Options: SAMEORIGIN {"id":1,"category":{"id":129,"sub_cat":【】,"name":"根茎类","code":"gjl","desc":"","category_type":2,"is_tab

目录
打赏
0
0
0
0
95
分享
相关文章
Node.js中发起HTTP请求的五种方式
以上五种方式,尽管只是冰山一角,但已经足以让编写Node.js HTTP请求的你,在连接世界的舞台上演奏出华丽的乐章。从原生的 `http`到现代的 `fetch`,每种方式都有独特的风格和表现力,让你的代码随着项目的节奏自由地舞动。
155 65
|
2月前
|
Go
在golang中发起http请求以获取访问域名的ip地址实例(使用net, httptrace库)
这只是追踪我们的行程的简单方法,不过希望你跟着探险家的脚步,即使是在互联网的隧道中,也可以找到你想去的地方。接下来就是你的探险之旅了,祝你好运!
107 26
HTTP常见的请求方法、响应状态码、接口规范介绍
本文详细介绍了HTTP常见的请求方法、响应状态码和接口规范。通过理解和掌握这些内容,开发者可以更好地设计和实现W
648 83
使用curl命令在服务器上执行HTTP请求
总的来说,curl是一个非常强大的工具,它可以让你在命令行中发送各种类型的HTTP请求。通过学习和实践,你可以掌握这个工具,使你的工作更加高效。
196 30
HTTP/HTTPS协议(请求响应模型、状态码)
本文简要介绍了HTTP与HTTPS协议的基础知识。HTTP是一种无状态的超文本传输协议,基于TCP/IP,常用80端口,通过请求-响应模型实现客户端与服务器间的通信;HTTPS为HTTP的安全版本,基于SSL/TLS加密技术,使用443端口,确保数据传输的安全性。文中还详细描述了HTTP请求方法(如GET、POST)、请求与响应头字段、状态码分类及意义,并对比了两者在请求-响应模型中的安全性差异。
244 20
深入解析HTTP请求方法:Spring Boot实战与最佳实践
这篇博客结合了HTTP规范、Spring Boot实现和实际工程经验,通过代码示例、对比表格和架构图等方式,系统性地讲解了不同HTTP方法的应用场景和最佳实践。
260 5
动态URL构建与HTTP请求的Kotlin实现
动态URL构建与HTTP请求的Kotlin实现
|
4月前
|
API
掌握 HTTP 请求的艺术:理解 cURL GET 语法
掌握 cURL GET 请求的语法和使用方法是 Web 开发和测试中的基本技能。通过灵活运用 cURL 提供的各种选项,可以高效地与 API 进行交互、调试网络请求,并自动化日常任务。希望本文能帮助读者更好地理解和使用 cURL,提高工作效率和代码质量。
164 7
Objective-C开发:从HTTP请求到文件存储的实战
Objective-C开发:从HTTP请求到文件存储的实战

热门文章

最新文章

AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等