Python并发编程:异步编程(asyncio模块)

简介: 本文详细介绍了 Python 的 asyncio 模块,包括其基础概念、核心组件、常用功能等,并通过多个示例展示了如何在实际项目中应用这些技术。通过学习这些内容,您应该能够熟练掌握 Python 中的异步编程,提高编写并发程序的能力。异步编程可以显著提高程序的响应速度和并发处理能力,但也带来了新的挑战和问题。在使用 asyncio 时,需要注意合理设计协程和任务,避免阻塞操作,并充分利用事件循环和异步 I/O 操作。

一、引言

Python 的异步编程越来越受到开发者的重视,尤其是在需要处理 I/O 密集型任务时。asyncio 是 Python 标准库中的一个模块,旨在编写并发代码。通过 asyncio,可以轻松地管理大量的 I/O 操作,如网络请求、文件读取等,提升程序的性能和响应速度。


本文将详细介绍 Python 的 asyncio 模块,包括其基础概念、核心组件、常用功能等,最后附上一个综合的示例,并运行示例以展示实际效果。

二、基础概念

2.1 同步与异步

同步编程中,任务按顺序执行,当前任务未完成时,后续任务必须等待。异步编程则允许任务在等待时挂起,其他任务可以继续执行,提高了效率。

2.2 协程

协程是一种比线程更轻量级的并发单元。与线程不同,协程由用户代码调度,不依赖操作系统。Python 中使用 async def 定义协程函数,await 用于挂起协程等待结果。

2.3 事件循环

事件循环是 asyncio 的核心,它负责调度和执行协程。通过事件循环,可以实现非阻塞 I/O 操作。

三、核心组件

3.1 协程函数

协程函数使用 async def 定义,调用时返回一个协程对象,需通过 await 执行。

import asyncio
async def my_coroutine():
    print("Hello, asyncio!")
# 创建事件循环并运行协程
asyncio.run(my_coroutine())

3.2 await 关键字

await 用于挂起协程,等待一个异步操作完成后继续执行。

import asyncio
async def fetch_data():
    await asyncio.sleep(2)
    return "Data fetched"
async def main():
    data = await fetch_data()
    print(data)
asyncio.run(main())

3.3 任务(Task)

任务是对协程的进一步封装,用于在事件循环中调度协程。通过 asyncio.create_task 创建任务。

import asyncio
async def my_coroutine():
    await asyncio.sleep(1)
    print("Task completed")
async def main():
    task = asyncio.create_task(my_coroutine())
    await task
asyncio.run(main())

3.4 并发执行

asyncio.gather 和 asyncio.wait 用于并发执行多个协程。

import asyncio
async def task1():
    await asyncio.sleep(1)
    print("Task 1 completed")
async def task2():
    await asyncio.sleep(2)
    print("Task 2 completed")
async def main():
    await asyncio.gather(task1(), task2())
asyncio.run(main())

3.5 异步上下文管理器

asyncio 支持异步上下文管理器,使用 async with 关键字管理异步资源。

import asyncio
class AsyncContextManager:
    async def __aenter__(self):
        print("Enter context")
        return self
    async def __aexit__(self, exc_type, exc, tb):
        print("Exit context")
    async def do_something(self):
        await asyncio.sleep(1)
        print("Doing something")
async def main():
    async with AsyncContextManager() as manager:
        await manager.do_something()
asyncio.run(main())

四、常用功能

4.1 异步 I/O 操作

asyncio 提供了多种异步 I/O 操作,如网络请求、文件读取等。

4.1.1 异步网络请求

import asyncio
import aiohttp
async def fetch_url(session, url):
    async with session.get(url) as response:
        return await response.text()
async def main():
    async with aiohttp.ClientSession() as session:
        html = await fetch_url(session, "https://www.example.com")
        print(html)
asyncio.run(main())

4.1.2 异步文件读取

import asyncio
import aiofiles
async def read_file(file_path):
    async with aiofiles.open(file_path, 'r') as f:
        contents = await f.read()
    return contents
async def main():
    contents = await read_file("example.txt")
    print(contents)
asyncio.run(main())

4.2 异步生成器

异步生成器允许在迭代过程中使用 await 关键字。

import asyncio
async def async_generator():
    for i in range(5):
        await asyncio.sleep(1)
        yield i
async def main():
    async for value in async_generator():
        print(value)
asyncio.run(main())

4.3 超时控制

asyncio.wait_for 用于设置协程的超时时间。

import asyncio
async def my_coroutine():
    await asyncio.sleep(5)
    return "Task completed"
async def main():
    try:
        result = await asyncio.wait_for(my_coroutine(), timeout=3)
        print(result)
    except asyncio.TimeoutError:
        print("Task timed out")
asyncio.run(main())

4.4 取消任务

任务可以被取消,通过 task.cancel() 方法实现。

import asyncio
async def my_coroutine():
    try:
        await asyncio.sleep(5)
    except asyncio.CancelledError:
        print("Task was cancelled")
async def main():
    task = asyncio.create_task(my_coroutine())
    await asyncio.sleep(1)
    task.cancel()
    await task
asyncio.run(main())

五、综合详细的例子

5.1 示例:异步爬虫

我们将实现一个简单的异步爬虫,从多个网页中并发地抓取内容,并解析其中的标题。

import asyncio
import aiohttp
from bs4 import BeautifulSoup
class AsyncCrawler:
    def __init__(self, urls):
        self.urls = urls
    async def fetch(self, session, url):
        try:
            async with session.get(url) as response:
                return await response.text()
        except Exception as e:
            print(f"Failed to fetch {url}: {e}")
            return None
    async def parse(self, html):
        soup = BeautifulSoup(html, 'html.parser')
        title = soup.find('title').text if soup.title else 'No Title'
        return title
    async def crawl(self, url):
        async with aiohttp.ClientSession() as session:
            html = await self.fetch(session, url)
            if html:
                title = await self.parse(html)
                print(f"URL: {url}, Title: {title}")
    async def run(self):
        tasks = [self.crawl(url) for url in self.urls]
        await asyncio.gather(*tasks)
if __name__ == "__main__":
    urls = [
        'https://example.com',
        'https://example.org',
        'https://example.net'
    ]
    crawler = AsyncCrawler(urls)
    asyncio.run(crawler.run())

5.2 运行结果

URL: https://example.com, Title: Example Domain
URL: https://example.org, Title: Example Domain
URL: https://example.net, Title: Example Domain

六、总结

本文详细介绍了 Python 的 asyncio 模块,包括其基础概念、核心组件、常用功能等,并通过多个示例展示了如何在实际项目中应用这些技术。通过学习这些内容,您应该能够熟练掌握 Python 中的异步编程,提高编写并发程序的能力。


异步编程可以显著提高程序的响应速度和并发处理能力,但也带来了新的挑战和问题。在使用 asyncio 时,需要注意合理设计协程和任务,避免阻塞操作,并充分利用事件循环和异步 I/O 操作。


作者:Rjdeng

链接:https://juejin.cn/post/7398198236160655397

相关文章
|
8天前
|
Python
Python中的异步编程:使用asyncio和aiohttp实现高效网络请求
【10月更文挑战第34天】在Python的世界里,异步编程是提高效率的利器。本文将带你了解如何使用asyncio和aiohttp库来编写高效的网络请求代码。我们将通过一个简单的示例来展示如何利用这些工具来并发地处理多个网络请求,从而提高程序的整体性能。准备好让你的Python代码飞起来吧!
24 2
|
12天前
|
调度 开发者 Python
Python中的异步编程:理解asyncio库
在Python的世界里,异步编程是一种高效处理I/O密集型任务的方法。本文将深入探讨Python的asyncio库,它是实现异步编程的核心。我们将从asyncio的基本概念出发,逐步解析事件循环、协程、任务和期货的概念,并通过实例展示如何使用asyncio来编写异步代码。不同于传统的同步编程,异步编程能够让程序在等待I/O操作完成时释放资源去处理其他任务,从而提高程序的整体效率和响应速度。
|
5天前
|
Python
在Python中,可以使用内置的`re`模块来处理正则表达式
在Python中,可以使用内置的`re`模块来处理正则表达式
17 5
|
5天前
|
并行计算 数据处理 调度
Python中的并发编程:探索多线程与多进程的奥秘####
本文深入探讨了Python中并发编程的两种主要方式——多线程与多进程,通过对比分析它们的工作原理、适用场景及性能差异,揭示了在不同应用需求下如何合理选择并发模型。文章首先简述了并发编程的基本概念,随后详细阐述了Python中多线程与多进程的实现机制,包括GIL(全局解释器锁)对多线程的影响以及多进程的独立内存空间特性。最后,通过实例演示了如何在Python项目中有效利用多线程和多进程提升程序性能。 ####
|
6天前
|
数据采集 调度 Python
探索Python中的异步编程:从基础到高级
【10月更文挑战第36天】在Python的世界中,异步编程是提升程序性能和响应速度的重要工具。本文将带你深入了解Python异步编程的核心概念,包括事件循环、协程与异步IO,并逐步展示如何在实际项目中应用这些概念来编写更高效、可扩展的代码。通过理论讲解与实践案例的结合,我们将一起构建一个异步Web爬虫,以直观感受异步编程的强大之处。
|
8天前
|
数据库 Python
异步编程不再难!Python asyncio库实战,让你的代码流畅如丝!
在编程中,随着应用复杂度的提升,对并发和异步处理的需求日益增长。Python的asyncio库通过async和await关键字,简化了异步编程,使其变得流畅高效。本文将通过实战示例,介绍异步编程的基本概念、如何使用asyncio编写异步代码以及处理多个异步任务的方法,帮助你掌握异步编程技巧,提高代码性能。
26 4
|
8天前
|
API 数据处理 Python
探秘Python并发新世界:asyncio库,让你的代码并发更优雅!
在Python编程中,随着网络应用和数据处理需求的增长,并发编程变得愈发重要。asyncio库作为Python 3.4及以上版本的标准库,以其简洁的API和强大的异步编程能力,成为提升性能和优化资源利用的关键工具。本文介绍了asyncio的基本概念、异步函数的定义与使用、并发控制和资源管理等核心功能,通过具体示例展示了如何高效地编写并发代码。
19 2
|
15天前
|
Java 程序员 开发者
Python的gc模块
Python的gc模块
|
3天前
|
数据采集 存储 数据处理
探索Python中的异步编程:从基础到实战
【10月更文挑战第39天】在编程世界中,时间就是效率的代名词。Python的异步编程特性,如同给程序穿上了一双翅膀,让它们在执行任务时飞得更高、更快。本文将带你领略Python异步编程的魅力,从理解其背后的原理到掌握实际应用的技巧,我们不仅会讨论理论基础,还会通过实际代码示例,展示如何利用这些知识来提升你的程序性能。准备好让你的Python代码“起飞”了吗?让我们开始这场异步编程的旅程!
10 0
|
13天前
|
Python
探索Python中的异步编程模式
【10月更文挑战第29天】在编程世界中,时间就是效率。Python的异步编程模式,就像是给程序装上了翅膀,让任务并行处理不再是梦想。本文将带你了解如何在Python中实现异步编程,解锁高效代码的秘密。
25 0