Java并发专题 带返回结果的批量任务执行 CompletionService

简介: 转自 :http://blog.csdn.net/lmj623565791/article/details/27250059 一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果;比如同时

转自 :http://blog.csdn.net/lmj623565791/article/details/27250059


一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果;比如同时1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我觉得最好的方式就是提供回调接口,把处理的方式最为回调传进去;但是现在我们有了更好的方式实现:CompletionService + Callable

Callable的call方法可以返回执行的结果;

CompletionService将Executor(线程池)和BlockingQueue(阻塞队列)结合在一起,同时使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入阻塞对了,Executor作为消费者不断把任务取出来执行,并返回结果;

优势:

a、阻塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比较快,比如爬虫准备好网址和规则,就去执行了,执行起来(消费者)还是比较慢的)

b、CompletionService可以实现,哪个任务先执行完成就返回,而不是按顺序返回,这样可以极大的提升效率;

1、CompletionService : Executor + BlockingQueue 

下面看个例子:

[java]  view plain copy 在CODE上查看代码片 派生到我的代码片
  1. package com.zhy.concurrency.completionService;  
  2.   
  3. import java.util.Random;  
  4. import java.util.concurrent.BlockingQueue;  
  5. import java.util.concurrent.Callable;  
  6. import java.util.concurrent.CompletionService;  
  7. import java.util.concurrent.ExecutionException;  
  8. import java.util.concurrent.ExecutorCompletionService;  
  9. import java.util.concurrent.ExecutorService;  
  10. import java.util.concurrent.Executors;  
  11. import java.util.concurrent.Future;  
  12. import java.util.concurrent.LinkedBlockingDeque;  
  13.   
  14. /** 
  15.  * 将Executor和BlockingQueue功能融合在一起,可以将Callable的任务提交给它来执行, 然后使用take()方法获得已经完成的结果 
  16.  *  
  17.  * @author zhy 
  18.  *  
  19.  */  
  20. public class CompletionServiceDemo  
  21. {  
  22.   
  23.     public static void main(String[] args) throws InterruptedException,  
  24.             ExecutionException  
  25.     {  
  26.         /** 
  27.          * 内部维护11个线程的线程池 
  28.          */  
  29.         ExecutorService exec = Executors.newFixedThreadPool(11);  
  30.         /** 
  31.          * 容量为10的阻塞队列 
  32.          */  
  33.         final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(  
  34.                 10);  
  35.         //实例化CompletionService  
  36.         final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(  
  37.                 exec, queue);  
  38.   
  39.         /** 
  40.          * 模拟瞬间产生10个任务,且每个任务执行时间不一致 
  41.          */  
  42.         for (int i = 0; i < 10; i++)  
  43.         {  
  44.             completionService.submit(new Callable<Integer>()  
  45.             {  
  46.                 @Override  
  47.                 public Integer call() throws Exception  
  48.                 {  
  49.                     int ran = new Random().nextInt(1000);  
  50.                     Thread.sleep(ran);  
  51.                     System.out.println(Thread.currentThread().getName()  
  52.                             + " 休息了 " + ran);  
  53.                     return ran;  
  54.                 }  
  55.             });  
  56.         }  
  57.           
  58.         /** 
  59.          * 立即输出结果 
  60.          */  
  61.         for (int i = 0; i < 10; i++)  
  62.         {  
  63.             try  
  64.             {     
  65.                 //谁最先执行完成,直接返回  
  66.                 Future<Integer> f = completionService.take();  
  67.                 System.out.println(f.get());  
  68.             } catch (InterruptedException e)  
  69.             {  
  70.                 e.printStackTrace();  
  71.             } catch (ExecutionException e)  
  72.             {  
  73.                 e.printStackTrace();  
  74.             }  
  75.         }  
  76.   
  77.         exec.shutdown();  
  78.   
  79.     }  
  80.   
  81. }  
输出结果:

[java]  view plain copy 在CODE上查看代码片 派生到我的代码片
  1. pool-1-thread-4 休息了 52  
  2. 52  
  3. pool-1-thread-1 休息了 59  
  4. 59  
  5. pool-1-thread-10 休息了 215  
  6. 215  
  7. pool-1-thread-9 休息了 352  
  8. 352  
  9. pool-1-thread-5 休息了 389  
  10. 389  
  11. pool-1-thread-3 休息了 589  
  12. 589  
  13. pool-1-thread-2 休息了 794  
  14. 794  
  15. pool-1-thread-7 休息了 805  
  16. 805  
  17. pool-1-thread-6 休息了 909  
  18. 909  
  19. pool-1-thread-8 休息了 987  
  20. 987  

最先执行完成的直接返回,并不需要按任务提交的顺序执行,如果需要写个高并发的程序,且每个任务需要返回执行结果,这是个相当不错的选择!
目录
相关文章
|
22小时前
|
数据采集 存储 Java
高德地图爬虫实践:Java多线程并发处理策略
高德地图爬虫实践:Java多线程并发处理策略
|
2天前
|
Java API 调度
[Java并发基础]多进程编程
[Java并发基础]多进程编程
|
7天前
|
安全 Java
深入理解 Java 多线程和并发工具类
【4月更文挑战第19天】本文探讨了Java多线程和并发工具类在实现高性能应用程序中的关键作用。通过继承`Thread`或实现`Runnable`创建线程,利用`Executors`管理线程池,以及使用`Semaphore`、`CountDownLatch`和`CyclicBarrier`进行线程同步。保证线程安全、实现线程协作和性能调优(如设置线程池大小、避免不必要同步)是重要环节。理解并恰当运用这些工具能提升程序效率和可靠性。
|
9天前
|
Java 开发者
Java中多线程并发控制的实现与优化
【4月更文挑战第17天】 在现代软件开发中,多线程编程已成为提升应用性能和响应能力的关键手段。特别是在Java语言中,由于其平台无关性和强大的运行时环境,多线程技术的应用尤为广泛。本文将深入探讨Java多线程的并发控制机制,包括基本的同步方法、死锁问题以及高级并发工具如java.util.concurrent包的使用。通过分析多线程环境下的竞态条件、资源争夺和线程协调问题,我们提出了一系列实现和优化策略,旨在帮助开发者构建更加健壮、高效的多线程应用。
7 0
|
9天前
|
存储 缓存 安全
Java并发基础之互斥同步、非阻塞同步、指令重排与volatile
在Java中,多线程编程常常涉及到共享数据的访问,这时候就需要考虑线程安全问题。Java提供了多种机制来实现线程安全,其中包括互斥同步(Mutex Synchronization)、非阻塞同步(Non-blocking Synchronization)、以及volatile关键字等。 互斥同步(Mutex Synchronization) 互斥同步是一种基本的同步手段,它要求在任何时刻,只有一个线程可以执行某个方法或某个代码块,其他线程必须等待。Java中的synchronized关键字就是实现互斥同步的常用手段。当一个线程进入一个synchronized方法或代码块时,它需要先获得锁,如果
24 0
|
18天前
|
存储 缓存 安全
【企业级理解】高效并发之Java内存模型
【企业级理解】高效并发之Java内存模型
|
25天前
|
安全 Java
Java中的多线程并发控制
在Java中,多线程是实现并发执行任务的一种重要方式。然而,随着多个线程同时访问共享资源,可能会导致数据不一致和其他并发问题。因此,了解并掌握Java中的多线程并发控制机制显得尤为重要。本文将深入探讨Java的多线程并发控制,包括synchronized关键字、Lock接口、Semaphore类以及CountDownLatch类等,并通过实例代码演示其使用方法和注意事项。
12 2
|
1月前
|
安全 Java API
Java并发 - J.U.C并发容器类 list、set、queue
Queue API 阻塞是通过 condition 来实现的,可参考 Java 并发 - Lock 接口 ArrayBlockingQueue 阻塞 LinkedBlockingQueue 阻塞 ArrayQueue 非阻塞 LinkedQueue 非阻塞
|
3月前
|
安全 Java 编译器
Java并发编程学习6-同步容器类和并发容器
【1月更文挑战第6天】本篇介绍同步容器类和并发容器的相关内容(Vector、ConcurrentHashMap、CopyOnWriteArrayList)
34 3
Java并发编程学习6-同步容器类和并发容器
|
10月前
|
存储 安全 算法
【Java并发编程 十一】JUC并发包下并发容器类(下)
【Java并发编程 十一】JUC并发包下并发容器类(下)
74 0