Python进程/线程/协程相关

简介:

1、获取进程ID。(getpid

1
os.getpid()

2、获取父进程ID。(getppid

1
os.getppid()

3、获取线程ID。(get_ident

(1)、进程内局部标识。

1
2
3
import  threading
threading.get_ident()
threading.current_thread().ident

(2)、系统全局标识:python下使用ctypes获取threading线程id


【使用线程池完成阻塞型任务】

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
#encoding=utf-8
#author: walker
#date: 2017-03-27
#summary: 使用线程池完成阻塞型任务
#Python 3.6.1 (v3.6.1:69c0db5, Mar 21 2017, 18:41:36) [MSC v.1900 64 bit (AMD64)] on win32
  
import  time
import  random
import  threading
import  concurrent.futures
 
#同步型任务
def  TaskSync(taskid, sleepTime):
     print ( 'thread_%05d %s sleep %d ...'  %  (threading.get_ident(), taskid, sleepTime))
     time.sleep(sleepTime)    #睡觉任务
     print ( '\t\tthread_%05d %s sleep %d over'  %  (threading.get_ident(), taskid, sleepTime))
     return  taskid, sleepTime
     
#处理所有任务
def  ProcAll(taskList):
     pool  =  concurrent.futures.ThreadPoolExecutor( 4 )  
     futureList  =  list ()
     for  taskid, sleepTime  in  taskList:   #提交所有任务
         futureList.append(pool.submit(TaskSync, taskid, sleepTime))
     
     totalSleepTime  =  0
     for  future  in  concurrent.futures.as_completed(futureList):
         task, sleepTime  =  future.result()
         print ( '\t\t\t\t\t\t%s sleep %d over'  %  (task, sleepTime))
         totalSleepTime  + =  sleepTime
         
     return  totalSleepTime
     
if  __name__  = =  '__main__' :
     startTime  =  time.time()
     taskList  =  [( 'task_%d'  %  id , random.randint( 1 5 ))  for  id  in  range ( 0 9 )]
     print ( 'taskList:%s'  %  repr (taskList))
     totalSleepTime  =  ProcAll(taskList)
     print ( 'totalSleepTime: %d s'  %  totalSleepTime)
     print ( 'real cost time:%.2f'  %  (time.time()  -  startTime))

【使用单线程完成异步型任务】

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
#encoding=utf-8
#author: walker
#date: 2017-03-27
#summary: 使用单线程完成异步型任务
#Python 3.6.1 (v3.6.1:69c0db5, Mar 21 2017, 18:41:36) [MSC v.1900 64 bit (AMD64)] on win32
  
import  asyncio
import  time
import  random
 
#协程型任务 
async  def  TaskAsync(taskid, sleepTime):
     print ( '%s sleep %d ...'  %  (taskid, sleepTime))
     await asyncio.sleep(sleepTime)  #睡觉任务
     print ( '\t%s sleep %d over'  %  (taskid, sleepTime))
     return  taskid, sleepTime
 
#处理所有任务
async  def  ProcAll(taskList):
     coroutineList  =  list ()
     for  taskid, sleepTime  in  taskList:
         coroutineList.append(asyncio.ensure_future((TaskAsync(taskid, sleepTime))))   
     
     totalSleepTime  =  0
     for  in  asyncio.as_completed(coroutineList):
         task, sleepTime  =  await f
         print ( '\t\t\t%s sleep %d over'  %  (task, sleepTime))
         totalSleepTime  + =  sleepTime
     return  totalSleepTime
 
if  __name__  = =  '__main__' :
     startTime  =  time.time()
     taskList  =  [( 'task_%d'  %  id , random.randint( 1 5 ))  for  id  in  range ( 0 9 )]
     print ( 'taskList:%s'  %  repr (taskList))
     loop  =  asyncio.get_event_loop()
     totalSleepTime  =  loop.run_until_complete(ProcAll(taskList))
     print ( 'totalSleepTime: %d s'  %  totalSleepTime)
     print ( 'real cost time:%.2f'  %  (time.time()  -  startTime))


相关阅读:

1、Python自定义进程池(生产者/消费者模型)

2、asyncio — Asynchronous I/O, event loop, coroutines and tasks

3、concurrent.futures — Launching parallel tasks

4、multiprocessing — Process-based parallelism

5、协程与async/await语法(PEP 0492 Coroutines with async and await syntax 中文翻译)

6、Python协程:从yield/send到async/await


*** walker ***

本文转自walker snapshot博客51CTO博客,原文链接http://blog.51cto.com/walkerqt/1893879如需转载请自行联系原作者


RQSLT

相关文章
|
数据采集 存储 JSON
Python爬取知乎评论:多线程与异步爬虫的性能优化
Python爬取知乎评论:多线程与异步爬虫的性能优化
|
人工智能 安全 调度
Python并发编程之线程同步详解
并发编程在Python中至关重要,线程同步确保多线程程序正确运行。本文详解线程同步机制,包括互斥锁、信号量、事件、条件变量和队列,探讨全局解释器锁(GIL)的影响及解决线程同步问题的最佳实践,如避免全局变量、使用线程安全数据结构、精细化锁的使用等。通过示例代码帮助开发者理解并提升多线程程序的性能与可靠性。
352 0
|
10月前
|
Java 测试技术 API
【JUC】(1)带你重新认识进程与线程!!让你深层次了解线程运行的睡眠与打断!!
JUC是什么?你可以说它就是研究Java方面的并发过程。本篇是JUC专栏的第一章!带你了解并行与并发、线程与程序、线程的启动与休眠、打断和等待!全是干货!快快快!
1230 2
|
10月前
|
JSON 网络协议 安全
【Java】(10)进程与线程的关系、Tread类;讲解基本线程安全、网络编程内容;JSON序列化与反序列化
几乎所有的操作系统都支持进程的概念,进程是处于运行过程中的程序,并且具有一定的独立功能,进程是系统进行资源分配和调度的一个独立单位一般而言,进程包含如下三个特征。独立性动态性并发性。
439 1
|
10月前
|
JSON 网络协议 安全
【Java基础】(1)进程与线程的关系、Tread类;讲解基本线程安全、网络编程内容;JSON序列化与反序列化
几乎所有的操作系统都支持进程的概念,进程是处于运行过程中的程序,并且具有一定的独立功能,进程是系统进行资源分配和调度的一个独立单位一般而言,进程包含如下三个特征。独立性动态性并发性。
407 1
|
10月前
|
Java 调度 数据库
Python threading模块:多线程编程的实战指南
本文深入讲解Python多线程编程,涵盖threading模块的核心用法:线程创建、生命周期、同步机制(锁、信号量、条件变量)、线程通信(队列)、守护线程与线程池应用。结合实战案例,如多线程下载器,帮助开发者提升程序并发性能,适用于I/O密集型任务处理。
832 0
|
12月前
|
数据采集 消息中间件 并行计算
Python多线程与多进程性能对比:从原理到实战的深度解析
在Python编程中,多线程与多进程是提升并发性能的关键手段。本文通过实验数据、代码示例和通俗比喻,深入解析两者在不同任务类型下的性能表现,帮助开发者科学选择并发策略,优化程序效率。
849 1
|
12月前
|
传感器 数据采集 监控
Python生成器与迭代器:从内存优化到协程调度的深度实践
简介:本文深入解析Python迭代器与生成器的原理及应用,涵盖内存优化技巧、底层协议实现、生成器通信机制及异步编程场景。通过实例讲解如何高效处理大文件、构建数据流水线,并对比不同迭代方式的性能特点,助你编写低内存、高效率的Python代码。
416 0
|
数据采集 监控 调度
干货分享“用 多线程 爬取数据”:单线程 + 协程的效率反超 3 倍,这才是 Python 异步的正确打开方式
在 Python 爬虫中,多线程因 GIL 和切换开销效率低下,而协程通过用户态调度实现高并发,大幅提升爬取效率。本文详解协程原理、实战对比多线程性能,并提供最佳实践,助你掌握异步爬虫核心技术。
|
数据采集 存储 Java
多线程Python爬虫:加速大规模学术文献采集
多线程Python爬虫:加速大规模学术文献采集

推荐镜像

更多