twisted应用中异步回调的方式及线程的应用

简介:

前言:

    学习了golang的goruntine后,再回过头来看twisted网络编程库中的异步应用,没事琢磨下,以前搞过一个twisted做负载分发,性能差的要命,这几天再搞搞,看看能不能做少许提升。


说正题:

先介绍下twisted的几个的概念

twisted有个defer的概念,说来golang也有个defer,只是golang的是和panic recover配合做异常捕获的。 twisted的defer是异步的一种变现方式,可以这么理解,他和thread的区别是,他是基于时间event的。

有了deferred,即可对任务的执行进行管理控制。防止程序的运行,由于等待某项任务的完成而陷入阻塞停滞,提高整体运行的效率。


Deferred能帮助你编写异步代码,但并不是为自动生成异步或无阻塞的代码!要想将一个同步函数编程异步函数,必须在函数中返回Deferred并正确注册回调。


事件的好处,有堵塞io的操作的时候,我把这个任务扔到后面执行,当io执行好了后,我再继续计算刚才那个事 .



callback链表有三个形式,正常结束,例外结束,任意状态,他们分别调用会调用 addCallback\addErrback\addBoth注册到链表中。 特意说下,addBoth是任何的状态也都会执行


这里再说下,twsited的线程。reactor.callFromThread 是由reactor.run 搞出来的,所以你做好状态用reactor.stop可以控制他的关闭,就是因为他是由reactor.run派出来的进程,所以会堵塞主任务线程的,然而reactor.callInThread是一个个的独立的线程,他不堵塞了,但是他也无法stop了。。。。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
#coding=utf- 8
from twisted.internet  import  reactor
#xiaorui.cc
import  time
reactor.suggestThreadPoolSize( 30 )
def tt(i,j):
     if  i == "10" :
         reactor.stop()
     while  1 :
         print i, '---------------' ,j
         time.sleep( 2 )
def gg(i,j):
     time.sleep( 2 )
     if  i == 10 :
         reactor.stop()
     print i, '---------------' ,j
     time.sleep( 2 )
for  in  range( 50 ):
#    reactor.callFromThread(gg,i,i)
     reactor.callInThread(tt,i,i)
print  "I want to start"
reactor.run()


wKioL1M3Fm6Qz0MpAAHRfgWhyGY901.jpg

原文: http://rfyiamcool.blog.51cto.com/1030776/1386786

twisted自带了一个顺序执行的组件叫做 callLater, 我们可以规定第一秒执行这个函数,第二秒执行那个函数,第三秒的时候关闭realor ! 干脆点,你可以想成是计划任务。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
from twisted.internet  import  reactor
import  time
def printTime():
     print  'Current time is' ,time.strftime( "%H:%M:%S" )
def stopReactor():
     print  "Stopping reactor"
     reactor.stop()
reactor.callLater( 1 ,printTime)
reactor.callLater( 2 ,printTime)
reactor.callLater( 3 ,printTime)
reactor.callLater( 4 ,printTime)
reactor.callLater( 5 ,stopReactor)
print  'Running the reactor ...'
reactor.run()
print  'Reactor stopped.'

wKioL1M3HlySYu4YAAETL67er8M865.jpg


下面的例子,你们自己跑跑,我上面说的都是一些个零散的例子,大家对照下面完整的,走一遍。 twisted理解其实却是有点麻烦,大家只要知道他是基于事件的后,慢慢理解就行了。


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
#coding:utf- 8
#xiaorui.cc
from twisted.internet  import  reactor, defer
from twisted.internet.threads  import  deferToThread
import  os,sys
from twisted.python  import  threadable; threadable.init( 1 )
deferred =deferToThread.__get__
import  time
def todoprint_(result):
     print result
def running():
     "Prints a few dots on stdout while the reactor is running."
#     sys.stdout.write( "." ); sys.stdout.flush()
     print  '.'
     reactor.callLater(. 1 , running)
@deferred
def sleep(sec):
     "A blocking function magically converted in a non-blocking one."
     print  'start sleep %s' %sec
     time.sleep(sec)
     print  '\nend sleep %s' %sec
     return  "ok"
def test(n,m):
     print  "fun test()  is  start"
     m=m
     vals = []
     keys = []
     for  in  xrange(m):
         vals.append(i)
         keys.append( 'a%s' %i)
     d = None
     for  in  xrange(n):
         d = dict(zip(keys, vals))
     print  "fun test() is end"
     return  d
if  __name__==  "__main__" :
#one
     sleep( 10 ).addBoth(todoprint_)
     reactor.callLater(. 1 , running)
     reactor.callLater( 3 , reactor.stop)
     print  "go go !!!"
     reactor.run()
#two
     aa=time.time()
     de = defer.Deferred()
     de.addCallback(test)
     reactor.callInThread(de.callback, 10000000 , 100  )
     print time.time()-aa
     print  "我这里先做别的事情"
     print de
     print  "go go end"


原文: http://rfyiamcool.blog.51cto.com/1030776/1386786


Twisted的回调是个麻烦事,我觉得node.js的异步回调也麻烦,去年的时候看了将近半个月的node,刚开始学的挺high,后期学到express的各种高性能回调,有点发蒙,最后因为别的事情也就暂时放弃了。 我相信不仅是我,而且大家应该还是喜欢golang和eventlet风格,用同步的形式写代码解决异步的事。





 本文转自 rfyiamcool 51CTO博客,原文链接:http://blog.51cto.com/rfyiamcool/1386786,如需转载请自行联系原作者


相关文章
|
JavaScript 前端开发 Java
正则表达式深度解析:匹配任意字符串
【4月更文挑战第1天】
6883 0
|
弹性计算 网络协议 安全
【图文教程】阿里云服务器开放端口设置(超详细)
阿里云服务器端口怎么打开?云服务器ECS端口在安全组中开启,轻量应用服务器端口在防火墙中打开,阿里云服务器网以80端口为例,来详细说下阿里云服务器端口开放图文教程,其他的端口如8080、3306、443、1433也是同样的方法进行开启端口:
38632 2
|
12月前
|
Linux 网络安全 Python
linux centos上安装python3.11.x详细完整教程
这篇文章提供了在CentOS系统上安装Python 3.11.x版本的详细步骤,包括下载、解压、安装依赖、编译配置、解决常见错误以及版本验证。
8524 3
linux centos上安装python3.11.x详细完整教程
|
监控 JavaScript Shell
如何安装和管理 Supervisor
如何安装和管理 Supervisor
340 0
|
11月前
|
NoSQL Linux Redis
Docker学习二(Centos):Docker安装并运行redis(成功运行)
这篇文章介绍了在CentOS系统上使用Docker安装并运行Redis数据库的详细步骤,包括拉取Redis镜像、创建挂载目录、下载配置文件、修改配置以及使用Docker命令运行Redis容器,并检查运行状态和使用Navicat连接Redis。
1275 3
|
11月前
|
Linux Docker 容器
Centos安装docker(linux安装docker)——超详细小白可操作手把手教程,包好用!!!
本篇博客重在讲解Centos安装docker,经博主多次在不同服务器上测试,极其的稳定,尤其是阿里的服务器,一路复制命令畅通无阻。
18323 5
Centos安装docker(linux安装docker)——超详细小白可操作手把手教程,包好用!!!
|
12月前
|
Docker 容器
Docker安装及镜像源修改
本文介绍了Docker的安装过程和如何修改Docker镜像源以加速下载。包括更新系统包、安装所需软件包、设置yum源、安装Docker以及验证安装是否成功。接着,提供了修改Docker镜像源的步骤,包括创建配置文件、编辑配置文件以设置镜像加速地址,并提供了几个常用的国内镜像源地址。最后,通过重启Docker服务和检查配置是否生效来完成镜像源的修改。
Docker安装及镜像源修改
|
12月前
|
关系型数据库 MySQL Linux
Linux 安装 mysql 【使用 tar.gz | tar.xz安装包-离线安装】
在Linux系统中使用tar.xz压缩包安装MySQL数据库的详细步骤。包括下载MySQL压缩包,解压到指定目录,创建mysql用户和组,设置目录权限,初始化MySQL,配置my.cnf文件,启动服务,以及修改root用户密码。此外,还提供了如何设置Windows远程登录MySQL服务器的方法。
Linux 安装 mysql 【使用 tar.gz | tar.xz安装包-离线安装】
|
Python
【已解决】ModuleNotFoundError: No module named ‘DBUtils‘,from DBUtils.PooledDB import PooledDB,
【已解决】ModuleNotFoundError: No module named ‘DBUtils‘,from DBUtils.PooledDB import PooledDB,
1005 0