Python中的并发编程(6)使用进程

简介: Python中的并发编程(6)使用进程

使用多进程

multiprocessing模块提供了使用进程的方法,使用起来和线程threading模块非常类似。

multiprocessing模块包含一个与Thread类非常相似的Process类。

你可以将Python中的并发编程(2)线程的实现的Thread直接替换成Process

import itertools
import time
# 从multiprocessing导入
from multiprocessing import Process, Event
from multiprocessing import synchronize 

# 旋转
def spin(msg: str, done: synchronize.Event ) -> None: 
  for char in itertools.cycle(r'\|/-'): 
    status = f'\r{char} {msg}' 
    print(status, end='', flush=True)
    if done.wait(.1): 
      break
  blanks = ' ' * len(status)
  print(f'\r{blanks}\r', end='')

# 阻塞3秒,并返回42
def slow() -> int:
  time.sleep(3) 
  return 42

def supervisor() -> int: 
  done = Event() 
  # Thread 替换成Process
  spinner = Process(target=spin, args=('thinking!', done)) 
  print(f'spinner object: {spinner}') 
  spinner.start() 
  result = slow() 
  done.set() 
  spinner.join() 
  return result
  
def main() -> None:
  result = supervisor() 
  print(f'Answer: {result}')
  
if __name__ == '__main__':
  main()

同样,我们用进程改写线程Python中的并发编程(2)线程的实现的计算。

import time
from multiprocessing import Process
# 计算number的因子
def factorize(number):
    for i in range(1, number + 1):
        if number % i == 0:
            yield i
numbers = [2139079, 1214759, 1516637, 1852285, 14256346, 12456533]
def get_factor(number):
    factors = list(factorize(number))
    return factors

if __name__ == '__main__':
    start = time.time()
    processes = []
    for number in numbers:
        process = Process(target=get_factor, args=(number,))
        process.start() # 启动
        processes.append(process)
        
    
    for process in processes:
        process.join() # 等待完成

    end = time.time()
    delta = end - start
    print(f'Process {delta:.3f} 秒')

我们发现修改为进程后,计算耗费时间减少了一些:

(之前的)顺序执行花费 2.478 秒

Process 1.744 秒

由于进程启动和通信需要耗费一定时间,所以并不明显。

如果把numbers中的数字加大,时间减少的会更明显:

numbers = [4139079, 2214759, 4516637, 6852285, 44256346, 62456533]
顺序执行花费 11.079 秒

Process 6.870 秒

multiprocessing还提供了进程池Pool,可以方便地处理一系列输入:

from multiprocessing import Pool

def f(x):
    return x*x

if __name__ == '__main__':
    with Pool(5) as p:
        print(p.map(f, [1, 2, 3]))

相关文章
|
18天前
|
并行计算 数据处理 调度
Python中的并发编程:探索多线程与多进程的奥秘####
本文深入探讨了Python中并发编程的两种主要方式——多线程与多进程,通过对比分析它们的工作原理、适用场景及性能差异,揭示了在不同应用需求下如何合理选择并发模型。文章首先简述了并发编程的基本概念,随后详细阐述了Python中多线程与多进程的实现机制,包括GIL(全局解释器锁)对多线程的影响以及多进程的独立内存空间特性。最后,通过实例演示了如何在Python项目中有效利用多线程和多进程提升程序性能。 ####
|
1月前
|
调度 iOS开发 MacOS
python多进程一文够了!!!
本文介绍了高效编程中的多任务原理及其在Python中的实现。主要内容包括多任务的概念、单核和多核CPU的多任务实现、并发与并行的区别、多任务的实现方式(多进程、多线程、协程等)。详细讲解了进程的概念、使用方法、全局变量在多个子进程中的共享问题、启动大量子进程的方法、进程间通信(队列、字典、列表共享)、生产者消费者模型的实现,以及一个实际案例——抓取斗图网站的图片。通过这些内容,读者可以深入理解多任务编程的原理和实践技巧。
53 1
|
2月前
|
Python
Python中的多线程与多进程
本文将探讨Python中多线程和多进程的基本概念、使用场景以及实现方式。通过对比分析,我们将了解何时使用多线程或多进程更为合适,并提供一些实用的代码示例来帮助读者更好地理解这两种并发编程技术。
|
2月前
|
数据挖掘 程序员 调度
探索Python的并发编程:线程与进程的实战应用
【10月更文挑战第4天】 本文深入探讨了Python中实现并发编程的两种主要方式——线程和进程,通过对比分析它们的特点、适用场景以及在实际编程中的应用,为读者提供清晰的指导。同时,文章还介绍了一些高级并发模型如协程,并给出了性能优化的建议。
31 3
|
2月前
|
数据处理 Python
深入探索:Python中的并发编程新纪元——协程与异步函数解析
深入探索:Python中的并发编程新纪元——协程与异步函数解析
28 3
|
2月前
|
数据采集 数据处理 调度
探索Python的并发编程
本文深入探讨Python中的并发编程,包括线程、进程和异步I/O。通过实例展示如何有效利用这些工具提升程序性能,并讨论在应用中需注意的问题及最佳实践。
|
2月前
|
存储 Python
Python中的多进程通信实践指南
Python中的多进程通信实践指南
24 0
|
2月前
|
数据采集 消息中间件 Python
Python爬虫-进程间通信
Python爬虫-进程间通信
16 0
|
5月前
|
运维 关系型数据库 MySQL
掌握taskset:优化你的Linux进程,提升系统性能
在多核处理器成为现代计算标准的今天,运维人员和性能调优人员面临着如何有效利用这些处理能力的挑战。优化进程运行的位置不仅可以提高性能,还能更好地管理和分配系统资源。 其中,taskset命令是一个强大的工具,它允许管理员将进程绑定到特定的CPU核心,减少上下文切换的开销,从而提升整体效率。
掌握taskset:优化你的Linux进程,提升系统性能
|
5月前
|
弹性计算 Linux 区块链
Linux系统CPU异常占用(minerd 、tplink等挖矿进程)
Linux系统CPU异常占用(minerd 、tplink等挖矿进程)
182 4
Linux系统CPU异常占用(minerd 、tplink等挖矿进程)