twisted应用中异步回调的方式及线程的应用

简介:

前言:

    学习了golang的goruntine后,再回过头来看twisted网络编程库中的异步应用,没事琢磨下,以前搞过一个twisted做负载分发,性能差的要命,这几天再搞搞,看看能不能做少许提升。


说正题:

先介绍下twisted的几个的概念

twisted有个defer的概念,说来golang也有个defer,只是golang的是和panic recover配合做异常捕获的。 twisted的defer是异步的一种变现方式,可以这么理解,他和thread的区别是,他是基于时间event的。

有了deferred,即可对任务的执行进行管理控制。防止程序的运行,由于等待某项任务的完成而陷入阻塞停滞,提高整体运行的效率。


Deferred能帮助你编写异步代码,但并不是为自动生成异步或无阻塞的代码!要想将一个同步函数编程异步函数,必须在函数中返回Deferred并正确注册回调。


事件的好处,有堵塞io的操作的时候,我把这个任务扔到后面执行,当io执行好了后,我再继续计算刚才那个事 .



callback链表有三个形式,正常结束,例外结束,任意状态,他们分别调用会调用 addCallback\addErrback\addBoth注册到链表中。 特意说下,addBoth是任何的状态也都会执行


这里再说下,twsited的线程。reactor.callFromThread 是由reactor.run 搞出来的,所以你做好状态用reactor.stop可以控制他的关闭,就是因为他是由reactor.run派出来的进程,所以会堵塞主任务线程的,然而reactor.callInThread是一个个的独立的线程,他不堵塞了,但是他也无法stop了。。。。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
#coding=utf- 8
from twisted.internet  import  reactor
#xiaorui.cc
import  time
reactor.suggestThreadPoolSize( 30 )
def tt(i,j):
     if  i == "10" :
         reactor.stop()
     while  1 :
         print i, '---------------' ,j
         time.sleep( 2 )
def gg(i,j):
     time.sleep( 2 )
     if  i == 10 :
         reactor.stop()
     print i, '---------------' ,j
     time.sleep( 2 )
for  in  range( 50 ):
#    reactor.callFromThread(gg,i,i)
     reactor.callInThread(tt,i,i)
print  "I want to start"
reactor.run()


wKioL1M3Fm6Qz0MpAAHRfgWhyGY901.jpg

原文: http://rfyiamcool.blog.51cto.com/1030776/1386786

twisted自带了一个顺序执行的组件叫做 callLater, 我们可以规定第一秒执行这个函数,第二秒执行那个函数,第三秒的时候关闭realor ! 干脆点,你可以想成是计划任务。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
from twisted.internet  import  reactor
import  time
def printTime():
     print  'Current time is' ,time.strftime( "%H:%M:%S" )
def stopReactor():
     print  "Stopping reactor"
     reactor.stop()
reactor.callLater( 1 ,printTime)
reactor.callLater( 2 ,printTime)
reactor.callLater( 3 ,printTime)
reactor.callLater( 4 ,printTime)
reactor.callLater( 5 ,stopReactor)
print  'Running the reactor ...'
reactor.run()
print  'Reactor stopped.'

wKioL1M3HlySYu4YAAETL67er8M865.jpg


下面的例子,你们自己跑跑,我上面说的都是一些个零散的例子,大家对照下面完整的,走一遍。 twisted理解其实却是有点麻烦,大家只要知道他是基于事件的后,慢慢理解就行了。


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
#coding:utf- 8
#xiaorui.cc
from twisted.internet  import  reactor, defer
from twisted.internet.threads  import  deferToThread
import  os,sys
from twisted.python  import  threadable; threadable.init( 1 )
deferred =deferToThread.__get__
import  time
def todoprint_(result):
     print result
def running():
     "Prints a few dots on stdout while the reactor is running."
#     sys.stdout.write( "." ); sys.stdout.flush()
     print  '.'
     reactor.callLater(. 1 , running)
@deferred
def sleep(sec):
     "A blocking function magically converted in a non-blocking one."
     print  'start sleep %s' %sec
     time.sleep(sec)
     print  '\nend sleep %s' %sec
     return  "ok"
def test(n,m):
     print  "fun test()  is  start"
     m=m
     vals = []
     keys = []
     for  in  xrange(m):
         vals.append(i)
         keys.append( 'a%s' %i)
     d = None
     for  in  xrange(n):
         d = dict(zip(keys, vals))
     print  "fun test() is end"
     return  d
if  __name__==  "__main__" :
#one
     sleep( 10 ).addBoth(todoprint_)
     reactor.callLater(. 1 , running)
     reactor.callLater( 3 , reactor.stop)
     print  "go go !!!"
     reactor.run()
#two
     aa=time.time()
     de = defer.Deferred()
     de.addCallback(test)
     reactor.callInThread(de.callback, 10000000 , 100  )
     print time.time()-aa
     print  "我这里先做别的事情"
     print de
     print  "go go end"


原文: http://rfyiamcool.blog.51cto.com/1030776/1386786


Twisted的回调是个麻烦事,我觉得node.js的异步回调也麻烦,去年的时候看了将近半个月的node,刚开始学的挺high,后期学到express的各种高性能回调,有点发蒙,最后因为别的事情也就暂时放弃了。 我相信不仅是我,而且大家应该还是喜欢golang和eventlet风格,用同步的形式写代码解决异步的事。





 本文转自 rfyiamcool 51CTO博客,原文链接:http://blog.51cto.com/rfyiamcool/1386786,如需转载请自行联系原作者


相关文章
|
3月前
|
API iOS开发
彻底搞懂同步与异步,阻塞/非阻塞
彻底搞懂同步与异步,阻塞/非阻塞
75 0
|
29天前
|
Linux 程序员 C++
【C++ 常见的异步机制】探索现代异步编程:从 ASIO 到协程的底层机制解析
【C++ 常见的异步机制】探索现代异步编程:从 ASIO 到协程的底层机制解析
131 2
|
6月前
|
Java Spring
异步编程 - 08 Spring框架中的异步执行_TaskExecutor接口和@Async应用篇2
异步编程 - 08 Spring框架中的异步执行_TaskExecutor接口和@Async应用篇2
61 0
|
6月前
|
XML Java 数据格式
异步编程 - 08 Spring框架中的异步执行_TaskExecutor接口和@Async应用篇
异步编程 - 08 Spring框架中的异步执行_TaskExecutor接口和@Async应用篇
44 0
|
6月前
3 # 通过回调函数处理异步并发问题
3 # 通过回调函数处理异步并发问题
23 0
|
9月前
|
设计模式 Java 测试技术
异步模式之工作线程
异步模式之工作线程
|
存储 开发工具 数据安全/隐私保护
乾坤大挪移,如何将同步阻塞(sync)三方库包转换为异步非阻塞(async)模式?Python3.10实现。
众所周知,异步并发编程可以帮助程序更好地处理阻塞操作,比如网络 IO 操作或文件 IO 操作,避免因等待这些操作完成而导致程序卡住的情况。云存储文件传输场景正好包含网络 IO 操作和文件 IO 操作,比如业内相对著名的七牛云存储,官方sdk的默认阻塞传输模式虽然差强人意,但未免有些循规蹈矩,不够锐意创新。在全球同性交友网站Github上找了一圈,也没有找到异步版本,那么本次我们来自己动手将同步阻塞版本改造为异步非阻塞版本,并上传至Python官方库。
乾坤大挪移,如何将同步阻塞(sync)三方库包转换为异步非阻塞(async)模式?Python3.10实现。
【EventBus】EventBus 源码解析 ( 事件发送 | 发布线程为 子线程 切换到 主线程 执行订阅方法的过程分析 )
【EventBus】EventBus 源码解析 ( 事件发送 | 发布线程为 子线程 切换到 主线程 执行订阅方法的过程分析 )
145 0
|
开发框架 Java .NET
C# 同步 异步 回调 状态机 async await Demo
C# 同步 异步 回调 状态机 async await Demo 我们项目的客户端和服务端通信用的是WCF,我就想,能不能用异步的方式调用WCF服务呢?或者说能不能用async await的方式调用WCF服务呢?
543 0
C# 同步 异步 回调 状态机 async await Demo