Python中的多进程通信实践指南

简介: Python中的多进程通信实践指南

并发编程领域,多进程是一种常见的模式,它可以充分利用多核处理器的计算能力。然而,进程间的通信(Inter-Process Communication,IPC)是多进程编程中的一个核心议题。Python标准库中的multiprocessing模块提供了多种方式来实现进程间的通信。我将深入探讨如何使用Python中的multiprocessing模块实现进程间通信。

使用队列(Queue)进行进程间通信

队列是一种基于先进先出(FIFO)原则的数据结构,非常适合用于进程间的消息传递。multiprocessing模块提供了一个同名的Queue类,可以被多个进程共享。

以下是一个简单的例子,演示了如何使用multiprocessing.Queue来在两个进程间传递消息:

from multiprocessing import Process, Queue
def producer(queue):
    # 生产者进程,将数据放入队列
    for i in range(5):
        queue.put(f"数据 {i}")
        print(f"数据 {i} 已发送。")
def consumer(queue):
    # 消费者进程,从队列中获取数据
    while True:
        data = queue.get()
        if data is None:
            break  # 如果收到None,代表发送完毕
        print(f"数据 {data} 已接收。")
if __name__ == "__main__":
    # 创建一个共享队列
    queue = Queue()
    # 创建生产者和消费者进程
    prod = Process(target=producer, args=(queue,))
    cons = Process(target=consumer, args=(queue,))
    # 启动进程
    prod.start()
    cons.start()
    # 等待生产者结束
    prod.join()
    # 发送结束信号
    queue.put(None)
    # 等待消费者结束
    cons.join()

在上述代码中:

  • 第1-2行:导入了必要的类。
  • 第4-9行:定义了一个名为producer的函数,它是生产者进程的入口点,用于向队列发送数据。
  • 第11-18行:定义了一个名为consumer的函数,它是消费者进程的入口点,用于从队列接收数据。
  • 第20-31行:在__main__保护块中创建队列和进程,并启动它们。这是必要的,以防止子进程无限递归地创建新进程。

使用管道(Pipe)进行进程间通信

管道是另一种常见的IPC机制。在multiprocessing模块中,Pipe()函数返回一对连接对象,分别代表管道的两端。每一端都有send()recv()方法,用于发送和接收消息。

下面的例子展示了如何使用multiprocessing.Pipe进行通信:

from multiprocessing import Process, Pipe
def sender(pipe):
    # 发送端进程,发送数据
    for i in range(5):
        pipe.send(f"数据 {i}")
        print(f"数据 {i} 已发送。")
def receiver(pipe):
    # 接收端进程,接收数据
    for i in range(5):
        data = pipe.recv()
        print(f"数据 {data} 已接收。")
if __name__ == "__main__":
    # 创建管道
    parent_conn, child_conn = Pipe()
    # 创建发送和接收进程
    sender_proc = Process(target=sender, args=(parent_conn,))
    receiver_proc = Process(target=receiver, args=(child_conn,))
    # 启动进程
    sender_proc.start()
    receiver_proc.start()
    # 等待进程结束
    sender_proc.join()
    receiver_proc.join()

在这段代码中:

  • 第1-2行:导入了必要的类。
  • 第4-9行:定义了一个名为sender的函数,它是发送端进程的入口点。
  • 第11-16行:定义了一个名为receiver的函数,它是接收端进程的入口点。
  • 第18-28行:在__main__保护块中创建了管道的两端、进程,并启动它们。

使用共享内存(Value, Array)进行进程间通信

multiprocessing提供了ValueArray类,允许创建可以被多个进程共享的数据。这些数据存储在共享内存中,进程可以直接读写。

下面是一个使用共享内存的例子:

from multiprocessing import Process, Value, Array
def add_one(number, array):
    # 对共享数据进行操作
    number.value += 1
    for i in range(len(array)):
        array[i] += 1
if __name__ == "__main__":
    # 创建共享数据
    shared_number = Value('i', 0)
    shared_array = Array('d', [0.0, 100.0, 200.0])
    # 创建并启动进程
    process_list = []
    for _ in range(10):
        p = Process(target=add_one, args=(shared_number, shared_array))
        process_list.append(p)
        p.start()
    # 等待所有进程完成
    for p in process_list:
        p.join()
    # 打印共享数据的结果
    print(f"共享数字: {shared_number.value}")
    print(f"共享数组: {list(shared_array)}")

在这个例子中:

  • 第1-2行:导入了必要的类。
  • 第4-8行:定义了一个名为add_one的函数,它接收共享的数字和数组,并对它们的每个元素加一。
  • 第10-23行:在__main__保护块中创建共享数据、进程,并启动这些进程。

Python的multiprocessing模块,通过队列、管道和共享内存等机制实现了进程间通信的几种方法。这些机制在解决并发编程中的数据交换问题时非常有用



相关文章
|
5月前
|
设计模式 SQL 人工智能
Python设计模式:从代码复用到系统架构的实践指南
本文以Python为实现语言,深入解析23种经典设计模式的核心思想与实战技巧。通过真实项目案例,展示设计模式在软件开发中的结构化思维价值,涵盖创建型、结构型、行为型三大类别,并结合Python动态语言特性,探讨模式的最佳应用场景与实现方式,帮助开发者写出更清晰、易维护的高质量代码。
212 1
|
5月前
|
设计模式 人工智能 算法
Python设计模式:从代码复用到系统架构的实践指南
本文探讨了电商系统中因支付方式扩展导致代码臃肿的问题,引出设计模式作为解决方案。通过工厂模式、策略模式、单例模式等经典设计,实现代码解耦与系统扩展性提升。结合Python语言特性,展示了模块化、装饰器、适配器等模式的实战应用,并延伸至AI时代的设计创新,帮助开发者构建高内聚、低耦合、易维护的软件系统。
324 0
|
6月前
|
监控 大数据 API
Python 技术员实践指南:从项目落地到技术优化
本内容涵盖Python开发的实战项目、技术攻关与工程化实践,包括自动化脚本(日志分析系统)和Web后端(轻量化API服务)两大项目类型。通过使用正则表达式、Flask框架等技术,解决日志分析效率低与API服务性能优化等问题。同时深入探讨内存泄漏排查、CPU瓶颈优化,并提供团队协作规范与代码审查流程。延伸至AI、大数据及DevOps领域,如商品推荐系统、PySpark数据处理和Airflow任务编排,助力开发者全面提升从编码到架构的能力,积累高并发与大数据场景下的实战经验。
Python 技术员实践指南:从项目落地到技术优化
|
5月前
|
监控 编译器 Python
如何利用Python杀进程并保持驻留后台检测
本教程介绍如何使用Python编写进程监控与杀进程脚本,结合psutil库实现后台驻留、定时检测并强制终止指定进程。内容涵盖基础杀进程、多进程处理、自动退出机制、管理员权限启动及图形界面设计,并提供将脚本打包为exe的方法,适用于需持续清理顽固进程的场景。
|
9月前
|
机器学习/深度学习 自然语言处理 TensorFlow
使用Python和DeepSeek进行联网搜索的实践指南
本文介绍如何使用Python和假设的高性能深度学习工具包DeepSeek进行联网搜索,并通过实际案例展示其应用过程。首先,准备环境并安装依赖库(如Python 3.x、pip、DeepSeek、requests和BeautifulSoup4)。接着,讲解了DeepSeek的功能及其在图像分类、实体识别等任务中的应用。通过联网搜索抓取数据并进行预处理后,使用TensorFlow和Keras构建和训练CNN模型。
816 3
|
10月前
|
消息中间件 Linux C++
c++ linux通过实现独立进程之间的通信和传递字符串 demo
的进程间通信机制,适用于父子进程之间的数据传输。希望本文能帮助您更好地理解和应用Linux管道,提升开发效率。 在实际开发中,除了管道,还可以根据具体需求选择消息队列、共享内存、套接字等其他进程间通信方
258 16
|
消息中间件 存储 供应链
进程间通信方式-----消息队列通信
【10月更文挑战第29天】消息队列通信是一种强大而灵活的进程间通信机制,它通过异步通信、解耦和缓冲等特性,为分布式系统和多进程应用提供了高效的通信方式。在实际应用中,需要根据具体的需求和场景,合理地选择和使用消息队列,以充分发挥其优势,同时注意其可能带来的复杂性和性能开销等问题。
|
存储 Unix Linux
进程间通信方式-----管道通信
【10月更文挑战第29天】管道通信是一种重要的进程间通信机制,它为进程间的数据传输和同步提供了一种简单有效的方法。通过合理地使用管道通信,可以实现不同进程之间的协作,提高系统的整体性能和效率。
|
10月前
|
数据采集 Java 数据处理
Python实用技巧:轻松驾驭多线程与多进程,加速任务执行
在Python编程中,多线程和多进程是提升程序效率的关键工具。多线程适用于I/O密集型任务,如文件读写、网络请求;多进程则适合CPU密集型任务,如科学计算、图像处理。本文详细介绍这两种并发编程方式的基本用法及应用场景,并通过实例代码展示如何使用threading、multiprocessing模块及线程池、进程池来优化程序性能。结合实际案例,帮助读者掌握并发编程技巧,提高程序执行速度和资源利用率。
478 0
|
并行计算 数据处理 调度
Python中的并发编程:探索多线程与多进程的奥秘####
本文深入探讨了Python中并发编程的两种主要方式——多线程与多进程,通过对比分析它们的工作原理、适用场景及性能差异,揭示了在不同应用需求下如何合理选择并发模型。文章首先简述了并发编程的基本概念,随后详细阐述了Python中多线程与多进程的实现机制,包括GIL(全局解释器锁)对多线程的影响以及多进程的独立内存空间特性。最后,通过实例演示了如何在Python项目中有效利用多线程和多进程提升程序性能。 ####

热门文章

最新文章

推荐镜像

更多