11.python并发入门(part10 多进程之间实现通信,以及进程之间的数据共享)

简介:

一、进程队列。

多个进程去操作一个队列中的数据,外观上看起来一个进程队列,只是一个队列而已,单实际上,你开了多少个进程,这些进程一旦去使用这个队列,那么这个队列就会被复制多少份。

(队列=管道+锁)

这么做的主要原因就是,不同进程之间的数据是无法共享的。

下面是使用进程队列使多进程之间互相通信的示例:

下面这个例子,就是往进程队列里面put内容。

#!/usr/local/bin/python2.7

# -*- coding:utf-8 -*-

import multiprocessing

def func1(que,n):

    que.put(n+1)

    print "son process queue id is %s:" %(id(que))

if __name__ == '__main__':

    q1 = multiprocessing.Queue()  #生成一个进程队列!!!!这个队列和普通队列是不同的!!

    print "main process queue id is %s:" %(id(q1))

    for i in range(3):

        p = multiprocessing.Process(target=func1,args=(q1,i))

        p.start()

    print q1.get()

    print q1.get()

    print q1.get()


输出结果:

#windows和类unix系统运行的结果是不一样的!!在windows系统下,进程队列的id号是不同的!!

main process queue id is 4459325136:

son process queue id is 4459325136:

1

son process queue id is 4459325136:

2

son process queue id is 4459325136:

3


二、通过管道来实现进程间通信。

下面是使用管道的方式让两个进程通信的示例。

下面这段代码主要实现了父进程给子进程互相发送消息。

#!/usr/local/bin/python2.7

# -*- coding:utf-8 -*-

import multiprocessing

def func1(conn):

    conn.send("hi daddy!") #子进程给父进程发送内容。

    response = conn.recv() #子进程等待接收父进程发来的内容。

    print "respnse:%s" %(response)

    conn.close()

    print "child conn id %s" %(id(child_conn))

if __name__ == '__main__':

    parent_conn,child_conn = multiprocessing.Pipe() #使用multiprocessing的pipe类来创建出两个双向的管道对象,注意哦,这两个管道都是双向的,可以收也可以发。

    print "main child conn: %s" %(id(child_conn))

    p = multiprocessing.Process(target=func1,args=(child_conn,))

    p.start()

    print parent_conn.recv() #父进程等待接收子进程的内容。

    parent_conn.send("hi child!")  #父进程给子进程发送内容。

    p.join()

使用pipe类生成的两个管道相当于两部电话,一个给了父进程,另一个给了子进程。

官方说法如下:

The two connection objects returned by Pipe() represent the two ends of the pipe. Each connection object has send() and recv() methods (among others). Note that data in a pipe may become corrupted if two processes (or threads) try to read from or write to the same end of the pipe at the same time. Of course there is no risk of corruption from processes using different ends of the pipe at the same time.

pipe对象会创建出两个链接对象(管道),每个链接对象(管道)的两端,都可以send(发送),recv(接收)等。

不过需要注意的是!两个进程或者线程同时,去读取或者写入管道的同一端,那么数据很有可能会损坏!!


总结下进程队列和管道之间的关系:

管道和进程队列,实现的都是两个子进程之间,以及父进程和子进程之间的通信功能,它们做的都是同一件事,只不过是实现的方法不一样,它们完成的都只是进程和进程之间的通信,注意!!只是数据通信!!而不是数据共享!这个概念不要弄混了!

那什么是真正的数据共享?

当一个进程去修改某个数据,另外一个进程内部也会产生变化,这才是真正意义上在多进程之间实现的数据共享。

在举一个比较好理解的例子,假如一个列表里面有三个元素,进程1去这个列表中删除一个元素,进程2再去print这个列表时,这个列表里只剩下了两个元素。


那么如何去实现进程间的数据共享?这就要由Manager去实现了。


三、使用Manager来实现进程和进程间的数据共享。

队列和管道只是实现了数据交互,并没实现数据共享,共享就是一个进程去更改另一个进程的数据。

官方对于Managers的介绍:

A manager object returned by Manager() controls a server process which holds Python objects and allows other processes to manipulate them using proxies.

 Manager()会返回一个 Manager对象,它控制一个python服务进程,并允许其他进程使用代理的方式来操作它们


下面是manger对象都支持哪些数据类型?

A manager returned by Manager() will support types list, dict, Namespace, Lock, RLock, Semaphore, BoundedSemaphore, Condition, Event, Barrier, Queue, Value and Array. For example:


列表,字典,名称空间(变量),锁,递归锁,信号量,条件变量,事件,队列...等...因为有些类型博主也没有接触过......


下面是个进程间实现数据共享的例子:

#!/usr/local/bin/python2.7

# -*- coding:utf-8 -*-

import multiprocessing

def func1(dic_1,list_1,name):

    dic_1[name] = 'test'

    #dic_1['num'] = 123

    list_1.append(name)

    print "son process dict id:%s list id :%s " %(id(dic_1),id(list_1))

if __name__ == '__main__':

    with multiprocessing.Manager() as manager:

        d1 = manager.dict()  #注意这里!!如果字典和列表等数据类型,想要被进程之间共享,必须要使用manager下面封装好的类!!

        l1 = manager.list()  #这里使用的也是manager中已经封装好的特殊list!

        print "main process dict id:%s list id :%s " %(id(d1),id(l1))

        pro_list = []

        for i in range(10):

            p = multiprocessing.Process(target=func1,args=(d1,l1,str(i),))

            p.start()

            pro_list.append(p)

        for res in pro_list:

            res.join()

            print d1

            print l1






      本文转自苏浩智 51CTO博客,原文链接:http://blog.51cto.com/suhaozhi/1925925,如需转载请自行联系原作者


相关文章
|
9月前
|
SQL 关系型数据库 数据库
Python SQLAlchemy模块:从入门到实战的数据库操作指南
免费提供Python+PyCharm编程环境,结合SQLAlchemy ORM框架详解数据库开发。涵盖连接配置、模型定义、CRUD操作、事务控制及Alembic迁移工具,以电商订单系统为例,深入讲解高并发场景下的性能优化与最佳实践,助你高效构建数据驱动应用。
1018 7
|
10月前
|
测试技术 开发者 Python
Python单元测试入门:3个核心断言方法,帮你快速定位代码bug
本文介绍Python单元测试基础,详解`unittest`框架中的三大核心断言方法:`assertEqual`验证值相等,`assertTrue`和`assertFalse`判断条件真假。通过实例演示其用法,帮助开发者自动化检测代码逻辑,提升测试效率与可靠性。
624 1
|
11月前
|
API 数据安全/隐私保护 开发者
Python自定义异常:从入门到实践的轻松指南
在Python开发中,自定义异常能提升错误处理的精准度与代码可维护性。本文通过银行系统、电商库存等实例,详解如何创建和使用自定义异常,涵盖异常基础、进阶技巧、最佳实践与真实场景应用,助你写出更专业、易调试的代码。
363 0
|
11月前
|
IDE 开发工具 数据安全/隐私保护
Python循环嵌套:从入门到实战的完整指南
循环嵌套是Python中处理多维数据和复杂逻辑的重要工具。本文通过实例讲解嵌套循环的基本用法、常见组合、性能优化技巧及实战应用,帮助开发者掌握其核心思想,避免常见错误,并探索替代方案与进阶方向。
700 0
|
9月前
|
Cloud Native 算法 API
Python API接口实战指南:从入门到精通
🌟蒋星熠Jaxonic,技术宇宙的星际旅人。深耕API开发,以Python为舟,探索RESTful、GraphQL等接口奥秘。擅长requests、aiohttp实战,专注性能优化与架构设计,用代码连接万物,谱写极客诗篇。
1864 1
Python API接口实战指南:从入门到精通
|
Python
Python字符串格式化利器:f-strings入门指南
Python字符串格式化利器:f-strings入门指南
635 80
|
9月前
|
存储 Java 调度
Python定时任务实战:APScheduler从入门到精通
APScheduler是Python强大的定时任务框架,通过触发器、执行器、任务存储和调度器四大组件,灵活实现各类周期性任务。支持内存、数据库、Redis等持久化存储,适用于Web集成、数据抓取、邮件发送等场景,解决传统sleep循环的诸多缺陷,助力构建稳定可靠的自动化系统。(238字)
1600 1
|
10月前
|
调度 数据库 Python
Python异步编程入门:asyncio让并发变得更简单
Python异步编程入门:asyncio让并发变得更简单
495 5
|
10月前
|
数据采集 存储 XML
Python爬虫入门(1)
在互联网时代,数据成为宝贵资源,Python凭借简洁语法和丰富库支持,成为编写网络爬虫的首选。本文介绍Python爬虫基础,涵盖请求发送、内容解析、数据存储等核心环节,并提供环境配置及实战示例,助你快速入门并掌握数据抓取技巧。

推荐镜像

更多