ZeroMQ之Push与Pull (Java)

简介: 本系列文章均转自:http://blog.csdn.net/kobejayandy/article/details/20163431在ZeroMQ中并没有绝对的服务端与客户端之分,所有的数据接收与发送都是以连接为单位的,只区分ZeroMQ定义的类型,例如Response与Request,Publisher与Subscriber,Push与Pull等。

本系列文章均转自:http://blog.csdn.net/kobejayandy/article/details/20163431

在ZeroMQ中并没有绝对的服务端与客户端之分,所有的数据接收与发送都是以连接为单位的,只区分ZeroMQ定义的类型,例如Response与Request,Publisher与Subscriber,Push与Pull等。。。

例如在前面我们最开始的Response/Request模式,因为只有一个Response端,而有多个Request端,所以我们选择在Response端调用bind方法来建立监听,而在Request端调用connect方法与Response端建立连接。。。因此根据以前常用的概念,可以简单的将Response理解为服务端,将Request理解为客户端。。。。

这种状态下,整个系统大概用下面的图形来形容:



这里因此按照我们常规的区分方法,将建立监听的叫做服务端,发起连接的叫做客户端,但其实呢,在ZeroMQ这种按照监听的方式来区分是不成立的。。。将上图的网络构建变成如下这个样子:


上图的网络结构中,在Request端建立监听,而在Response发起与Request端的连接,这样,request同样可以发送请求到Response端。。。

其实说这么多无非就像强调:在ZeroMQ中,不要用常规的server/client模式来对组件进行分类,而应该采用ZeroMQ中定义的类型(Request,Response,Push,Pull)。


好了,接下来回到Push/Pull模式,这算是非常经典的了吧,Push产生消息,Pull角色来拿消息。。。甚至可以用生产者/消费者模型来对应。。。应用场景就非常的广泛了。。。最典型的应用场景就是任务分发。。。

在ZeroMQ中根据Push与Pull角色各自的数量又定义了一些比较有趣的名词:

(1)parallel pipeline,并行流水线,这种情况下是一个push,多个pull,可以理解为一个push不断的产生任务,并将这些任务分发给pull角色。。。如下图:


在这种网络结构中,manager不断的将任务分发给worker,要实现这种通信,在ZeroMQ中就直接用Push/Pull就可以了,代码也很简单,首先是Manager端(Push):

[java]  view plain copy 在CODE上查看代码片 派生到我的代码片
  1. package pushpull13;  
  2.   
  3. import org.zeromq.ZMQ;  
  4.   
  5. public class Push {  
  6.     public static void main(String args[]) {  
  7.   
  8.         ZMQ.Context context = ZMQ.context(1);  
  9.         ZMQ.Socket push  = context.socket(ZMQ.PUSH);  
  10.         push.bind("ipc://fjs");  
  11.   
  12.         for (int i = 0; i < 10000000; i++) {  
  13.             push.send("hello".getBytes());  
  14.         }  
  15.         push.close();  
  16.         context.term();  
  17.       
  18.     }  
  19. }  

代码很简单吧,这里建立的是PUSH类型的socket,然后循环一千万次,给建立连接的worker发送数据,那么接下来来看看Worker(Pull)部分的代码:

[java]  view plain copy 在CODE上查看代码片 派生到我的代码片
  1. package pushpull13;  
  2.   
  3. import java.util.concurrent.atomic.AtomicInteger;  
  4.   
  5. import org.zeromq.ZMQ;  
  6.   
  7. public class Pull {  
  8.     public static void main(String args[]) {  
  9.         final AtomicInteger number = new AtomicInteger(0);  
  10.         for (int i = 0; i < 5; i++) {  
  11.             new Thread(new Runnable(){  
  12.                 private int here = 0;  
  13.                 public void run() {  
  14.                     // TODO Auto-generated method stub  
  15.                     ZMQ.Context context = ZMQ.context(1);  
  16.                     ZMQ.Socket pull = context.socket(ZMQ.PULL);  
  17.                     pull.connect("ipc://fjs");  
  18.                     //pull.connect("ipc://fjs");  
  19.                     while (true) {  
  20.                         String message = new String(pull.recv());  
  21.                         int now = number.incrementAndGet();  
  22.                         here++;  
  23.                         if (now % 1000000 == 0) {  
  24.                             System.out.println(now + "  here is : " + here);  
  25.                         }  
  26.                     }  
  27.                 }  
  28.                   
  29.             }).start();  
  30.               
  31.         }  
  32.     }  
  33. }  

这里建立了5个worker,建立于与manager的连接,这里可能就会涉及到一个问题,manager是怎么将数据分发给这5个woker的呢,这里由于还没有看过实现代码,所以不知道这里具体是怎么个策略,不过后来测试数据之后发现各个worker之间收到的数量相差不大,可以猜测大概是轮询发送的。。。。

好了,到这里整个所谓的并行流水线的网络构建就算是差不多了。。。那么接下来来看另外一种,这里Push与Pull之间的对应关系是多个Push角色对应一个Pull角色,在ZeroMQ中,给这种结构取的名叫做公平队列,结构如下图:



这里也就是说将Pull角色理解为一个队列,各个Push角色不断的向这个队列中发送数据。。。这种结构应用场景也很广泛吧,例如分布式的数据统计啥的。。。

好了,来看看实现代码形式吧,先来看看Push:

[java]  view plain copy 在CODE上查看代码片 派生到我的代码片
  1. package pushpull31;  
  2.   
  3. import org.zeromq.ZMQ;  
  4.   
  5. public class Push {  
  6.     public static void main(String args[]) {  
  7.         for (int j = 0; j < 3; j++) {  
  8.             new Thread(new Runnable(){  
  9.   
  10.                 public void run() {  
  11.                     // TODO Auto-generated method stub  
  12.                     ZMQ.Context context = ZMQ.context(1);  
  13.                     ZMQ.Socket push = context.socket(ZMQ.PUSH);  
  14.                       
  15.                     push.connect("ipc://fjs");  
  16.                       
  17.                     for (int i = 0; i < 10000000; i++) {  
  18.                         push.send("hello".getBytes());  
  19.                         System.out.println(i);  
  20.                     }  
  21.                     push.close();  
  22.                     context.term();  
  23.                 }  
  24.                   
  25.             }).start();;  
  26.         }  
  27.     }  
  28. }  

由于这部分push与pull的关系是多对一,所以选择在pull端建立监听,让push端来连接pull端。。。代码还是很简单的吧。。。

不过这里有一个比较有意思的现象,加入我们先运行push端,而这个时候pull端并没有运行的话,会发现send方法也会被执行,只不过执行一会以后就阻塞了,这里可以猜测,ZeroMQ的push端是先将数据写到了一个缓冲区,然后数据是从缓冲区中写到已经建立好连接的pull端的,当然这个只是猜测,具体是什么样子的以后看看源码的实现就知道了。。。。


好了,接下来来看看Pull端的代码实现吧:

[java]  view plain copy 在CODE上查看代码片 派生到我的代码片
  1. package pushpull31;  
  2.   
  3. import org.zeromq.ZMQ;  
  4.   
  5. public class Pull {  
  6.     public static void main(String args[]) {  
  7.         ZMQ.Context context = ZMQ.context(1);  
  8.         ZMQ.Socket pull = context.socket(ZMQ.PULL);  
  9.           
  10.         pull.bind("ipc://fjs");  
  11.           
  12.         int number = 0;  
  13.         while (true) {  
  14.             String message = new String(pull.recv());  
  15.             number++;  
  16.             if (number % 1000000 == 0) {  
  17.                 System.out.println(number);  
  18.             }  
  19.         }  
  20.     }  
  21. }  

这里够简单吧,建立一个连接,然后循环里不断的接收数据就好了。。。


好了,到这里Push/Pull中的一对多与多对一的网络结构就算是讲完了吧,其实还有一种多对多的结构。。不过意思都差不多吧。。。。。就不具体弄出来了。。

若转载请注明出处!若有疑问,请回复交流!
目录
相关文章
|
消息中间件 Java Kafka
Java消息队列总结只需一篇解决ActiveMQ、RabbitMQ、ZeroMQ、Kafka
  一、消息队列概述 消息队列中间件是分布式系统中重要的组件,主要解决应用解耦,异步消息,流量削锋等问题,实现高性能,高可用,可伸缩和最终一致性架构。
2518 0
|
消息中间件 Java 数据格式
ZeroMQ(java)之Router与Dealer运行原理
在开始这部分的内容之前,先来看看ZeroMQ中HWM概念---High-Water Marks 当系统的数据量很大,而且发送频率很高的情况下,内存就很重要了,如果处理不好会出现很多问题,例如如下场景: A很快速的向B发送数据,但是B处理起来却很慢,这样子的话,数据就可能会在A的发送缓冲区,或者B的接收缓冲区累计起来.
1218 0
|
消息中间件 Java 网络协议
ZeroMQ之Request/Response (Java)
自己最开始是在cloud foundry中接触过消息服务器(nats),或者说是消息中间件,也算是初步知道了一个消息服务器对于分布式的网络系统的重要性,后来自己也曾想过在一些项目中使用它,尤其是在一些分布式的环境下,可以极大的方便整个系统的实现。
1880 0
|
消息中间件 Java 网络协议
ZeroMQ之Publish/Subscribe (Java)
前面的文章介绍了比较简单的Request/Subscribe模式, 这篇文章介绍更为经典的Publish/Subscribe通信模式用来ZeroMQ的实现,其通信方式如下图: 客户端(subscriber)向服务器(publisher)订阅消息,然后服务器可以将消息推送到所有订阅了消息的客户端,这里也可以理解为广播吧。
1660 0
|
消息中间件 网络协议 Java
ZeroMQ(java)之Router/Dealer模式
本教程转自:http://blog.csdn.net/kobejayandy/article/details/20163527 在开始之前先把guid里面提到的几个ZeroMQ的特性列一下吧: (1)ZeroMQ有自己的I/O线程来异步的处理I/O,而且后台采用了无锁的数据结构 (2)在ZeroMQ中,所有的组件都可以动态的加入和移除,而且可以启动组件以任何的顺利,例如我们可以先启动request,再启动response,依然可以工作,而且还会自动的重连接。
1981 0
|
消息中间件 负载均衡 Java
ZeroMQ(java)之负载均衡
我们在实际的应用中最常遇到的场景如下: A向B发送请求,B向A返回结果。。。。 但是这种场景就会很容易变成这个样子: 很多A向B发送请求,所以B要不断的处理这些请求,所以就会很容易想到对B进行扩展,由多个B来处理这些请求,那么这里就出现了另外一个问题: B对请求处理的速度可能不同,那么B之间他们的负载也是不同的,那么应该如何对请求进行分发就成了一个比较重要的问题。
992 0
|
消息中间件 Java
ZeroMQ(java)之I/O线程的实现与组件间的通信
算是开始读ZeroMQ(java)的代码实现了吧,现在有了一个大体的了解,看起来实现是比较的干净的,抽象什么的不算复杂。。。 这里先来看看它的I/O线程的实现吧,顺带看看是如何实现组件的通信的。。。。
1474 0
|
消息中间件 网络协议 Java
ZeroMQ(java)中对IO的封装(StreamEngine)
哎,各种各样杂七杂八的事情。。。好久没有看代码了,其实要搞明白一个与IO相关的框架,最好的办法就是把它的I/0的读写两个过程搞清楚。。。例如在netty中,如果能将eventLoop的运行原理搞清楚,然后摸清楚整个I/O读写两个过程,那么也就差不太多了。
859 0
|
消息中间件 Java
ZeroMQ(java)中组件间数据传输(Pipe的实现)
在ZeroMQ(java)中,整个IO的处理流程都是分层来进行的,当然处于最下端的肯定是前面介绍过的poller以及StreamEngin了。。。。涉及到上层的话就还有session,以及socket,先用一张图来大概的描述一下整个层次关系吧。
976 0
|
消息中间件 Java
ZeroMQ(java)中的数据流SessionBase与SocketBase
前面的文章中已经比较的清楚了ZeroMQ(java)中如何在底层处理IO, 通过StreamEngine对象来维护SelectableChannel对象以及IO的事件回调,然后通过Poller对象来维护Selector对象,然后用IOObject对象来具体的管理SelectableChannel对...
996 0