Python中的多进程通信实践指南

简介: Python中的多进程通信实践指南

并发编程领域,多进程是一种常见的模式,它可以充分利用多核处理器的计算能力。然而,进程间的通信(Inter-Process Communication,IPC)是多进程编程中的一个核心议题。Python标准库中的multiprocessing模块提供了多种方式来实现进程间的通信。我将深入探讨如何使用Python中的multiprocessing模块实现进程间通信。

使用队列(Queue)进行进程间通信

队列是一种基于先进先出(FIFO)原则的数据结构,非常适合用于进程间的消息传递。multiprocessing模块提供了一个同名的Queue类,可以被多个进程共享。

以下是一个简单的例子,演示了如何使用multiprocessing.Queue来在两个进程间传递消息:

from multiprocessing import Process, Queue
def producer(queue):
    # 生产者进程,将数据放入队列
    for i in range(5):
        queue.put(f"数据 {i}")
        print(f"数据 {i} 已发送。")
def consumer(queue):
    # 消费者进程,从队列中获取数据
    while True:
        data = queue.get()
        if data is None:
            break  # 如果收到None,代表发送完毕
        print(f"数据 {data} 已接收。")
if __name__ == "__main__":
    # 创建一个共享队列
    queue = Queue()
    # 创建生产者和消费者进程
    prod = Process(target=producer, args=(queue,))
    cons = Process(target=consumer, args=(queue,))
    # 启动进程
    prod.start()
    cons.start()
    # 等待生产者结束
    prod.join()
    # 发送结束信号
    queue.put(None)
    # 等待消费者结束
    cons.join()

在上述代码中:

  • 第1-2行:导入了必要的类。
  • 第4-9行:定义了一个名为producer的函数,它是生产者进程的入口点,用于向队列发送数据。
  • 第11-18行:定义了一个名为consumer的函数,它是消费者进程的入口点,用于从队列接收数据。
  • 第20-31行:在__main__保护块中创建队列和进程,并启动它们。这是必要的,以防止子进程无限递归地创建新进程。

使用管道(Pipe)进行进程间通信

管道是另一种常见的IPC机制。在multiprocessing模块中,Pipe()函数返回一对连接对象,分别代表管道的两端。每一端都有send()recv()方法,用于发送和接收消息。

下面的例子展示了如何使用multiprocessing.Pipe进行通信:

from multiprocessing import Process, Pipe
def sender(pipe):
    # 发送端进程,发送数据
    for i in range(5):
        pipe.send(f"数据 {i}")
        print(f"数据 {i} 已发送。")
def receiver(pipe):
    # 接收端进程,接收数据
    for i in range(5):
        data = pipe.recv()
        print(f"数据 {data} 已接收。")
if __name__ == "__main__":
    # 创建管道
    parent_conn, child_conn = Pipe()
    # 创建发送和接收进程
    sender_proc = Process(target=sender, args=(parent_conn,))
    receiver_proc = Process(target=receiver, args=(child_conn,))
    # 启动进程
    sender_proc.start()
    receiver_proc.start()
    # 等待进程结束
    sender_proc.join()
    receiver_proc.join()

在这段代码中:

  • 第1-2行:导入了必要的类。
  • 第4-9行:定义了一个名为sender的函数,它是发送端进程的入口点。
  • 第11-16行:定义了一个名为receiver的函数,它是接收端进程的入口点。
  • 第18-28行:在__main__保护块中创建了管道的两端、进程,并启动它们。

使用共享内存(Value, Array)进行进程间通信

multiprocessing提供了ValueArray类,允许创建可以被多个进程共享的数据。这些数据存储在共享内存中,进程可以直接读写。

下面是一个使用共享内存的例子:

from multiprocessing import Process, Value, Array
def add_one(number, array):
    # 对共享数据进行操作
    number.value += 1
    for i in range(len(array)):
        array[i] += 1
if __name__ == "__main__":
    # 创建共享数据
    shared_number = Value('i', 0)
    shared_array = Array('d', [0.0, 100.0, 200.0])
    # 创建并启动进程
    process_list = []
    for _ in range(10):
        p = Process(target=add_one, args=(shared_number, shared_array))
        process_list.append(p)
        p.start()
    # 等待所有进程完成
    for p in process_list:
        p.join()
    # 打印共享数据的结果
    print(f"共享数字: {shared_number.value}")
    print(f"共享数组: {list(shared_array)}")

在这个例子中:

  • 第1-2行:导入了必要的类。
  • 第4-8行:定义了一个名为add_one的函数,它接收共享的数字和数组,并对它们的每个元素加一。
  • 第10-23行:在__main__保护块中创建共享数据、进程,并启动这些进程。

Python的multiprocessing模块,通过队列、管道和共享内存等机制实现了进程间通信的几种方法。这些机制在解决并发编程中的数据交换问题时非常有用



目录
相关文章
|
2月前
|
数据采集 存储 JSON
python实战
这篇文章提供了一个Python编写的网络爬虫程序,用于爬取Yahoo知惠袋网站的问答数据,并将其存储为JSON和CSV格式,程序使用了requests、parsel、fake_useragent等库来发送请求、解析HTML和模拟用户代理。
|
1月前
|
机器学习/深度学习 数据挖掘 算法框架/工具
探索Python的神奇世界:从基础到进阶
在这篇文章中,我们将深入探讨Python编程的基础和进阶知识。Python作为一种易于学习且功能强大的编程语言,正在被广泛应用于数据分析、机器学习、Web开发等多个领域。无论你是编程初学者还是希望提升现有技能的开发者,本文将为你提供宝贵的指导和实用的技巧。现在,就让我们一同开启Python的奇幻之旅吧!
19 0
|
4月前
|
存储 Python
Python基础第二篇(Python基础语法)
Python基础第二篇(Python基础语法)
|
5月前
|
JSON JavaScript 前端开发
Python selenuim实战
使用Selenium爬取苏宁易购商品信息,步骤包括打开网页、翻页、获取信息并保存至本地JSON文件。核心功能有滚动页面加载更多商品(模拟鼠标滚动)和抓取每页数据(提取标题和价格)。主程序通过循环实现自动翻页,直到无下一页按钮,最终将所有数据整合到一个JSON文件中。完整代码展示了所需导入的模块、滚动页面及获取数据的函数,以及主程序逻辑。
43 0
|
5月前
|
机器学习/深度学习 数据采集 人工智能
python简介
python简介
38 0
|
11月前
|
Python
|
11月前
|
程序员 Python
|
5月前
|
存储 Python
python入门指南
python入门指南
42 0
|
5月前
|
机器学习/深度学习 IDE 开发工具
Python入门指南
Python入门指南
|
5月前
|
数据处理 Python
Python基础实战
Python基础实战
27 3