Boost库之asio io_service以及run、run_one、poll、poll_one区别

简介: 一、io_service的作用 io_servie 实现了一个任务队列,这里的任务就是void(void)的函数。Io_servie最常用的两个接口是post和run,post向任务队列中投递任务,run是执行队列中的任务,直到全部执行完毕,并且run可以被N个线程调用。

一、io_service的作用

io_servie 实现了一个任务队列,这里的任务就是void(void)的函数。Io_servie最常用的两个接口是post和run,post向任务队列中投递任务,run是执行队列中的任务,直到全部执行完毕,并且run可以被N个线程调用。Io_service是完全线程安全的队列。

 

二、Io_servie的接口

提供的接口有run、run_one、poll、poll_one、stop、reset、dispatch、post,最常用的是run、post、stop

三、Io_servie 实现代码的基本类结构:

Io_servie是接口类,为实现跨平台,采用了策略模式,所有接口均有impl_type实现。根据平台不同impl_type分为

  win_iocp_io_service Win版本的实现,这里主要分析Linux版本。

  task_io_service 非win平台下的实现,其代码结构为:

  detail/task_io_service_fwd.hpp 简单声明task_io_service名称

  detail/task_io_service.hpp 声明task_io_service的方法和属性

  detail/impl/task_io_service.ipp 具体实现文件

  队列中的任务类型为opertioan,原型其实是typedef task_io_service_operation operation,其实现文件在detail/task_io_service_operation.hpp中,当队列中的任务被执行时,就是task_io_service_operation:: complete被调用的时候。

四、Dispatch和post的区别

Post一定是PostQueuedCompletionStatus并且在GetQueuedCompletionStatus 之后执行。

Dispatch会首先检查当前thread是不是io_service.run/runonce/poll/poll_once线程,如果是,则直接运行。

五、Io_servie::run方法的实现

         Run方法执行队列中的所有任务,直到任务执行完毕。

  run方法首先构造一个idle_thread_info,和first_idle_thread_类型相同,即通过first_idle_thread_将所有线程串联起来,它这个串联不是立即串联的,当该线程无任务可做是加入到first_idle_thread_的首部,有任务执行时,从first_idle_thread_中断开。这很正常,因为first_idle_thread_维护的是当前空闲线程。

  加锁,循环执行do_one方法,直到do_one返回false

  do_one每次执行一个任务。首先检查队列是否为空,若空将此线程追加到first_idle_thread_的首部,然后阻塞在条件变量上,直到被唤醒。

  当被唤醒或是首次执行,若stopped_为true(即此时stop方法被调用了),返回0

  队列非空,pop出一个任务,检查队列无任务那么简单的解锁,若仍有,调用wake_one_thread_and_unlock尝试唤醒其他空闲线程执行。然后执行该任务,返回1.

  实际上在执行队列任务时有一个特别的判断if (o ==&task_operation_),那么将会执行task_->run,task_变量类型为reactor,在linux平台实现为epoll_reactor,实现代码文件为detail/impl/epoll_reactor.ipp,run方法实际上执行的是epoll_wait,run阻塞在epoll_wait上等待事件到来,并且处理完事件后将需要回调的函数push到io_servie的任务队列中,虽然epoll_wait是阻塞的,但是它提供了interrupt函数,该interrupt是如何实现的呢,它向epoll_wait添加一个文件描述符,该文件描述符中有8个字节可读,这个文件描述符是专用于中断epoll_wait的,他被封装到select_interrupter中,select_interrupter实际上实现是eventfd_select_interrupter,在构造的时候通过pipe系统调用创建两个文件描述符,然后预先通过write_fd写8个字节,这8个字节一直保留。在添加到epoll_wait中采用EPOLLET水平触发,这样,只要select_interrupter的读文件描述符添加到epoll_wait中,立即中断epoll_wait。

  Run方法的原则是:

  有任务立即执行任务,尽量使所有的线程一起执行任务

  若没有任务,阻塞在epoll_wait上等待io事件

  若有新任务到来,并且没有空闲线程,那么先中断epoll_wait,先执行任务

  若队列中有任务,并且也需要epoll_wait监听事件,那么非阻塞调用epoll_wait(timeout字段设置为0),待任务执行完毕在阻塞在epoll_wait上。

  几乎对线程的使用上达到了极致。

  从这个函数中可以知道,在使用ASIO时,io_servie应该尽量多,这样可以使其epoll_wait占用的时间片最多,这样可以最大限度的响应IO事件,降低响应时延。但是每个io_servie::run占用一个线程,所以io_servie最佳应该和CPU的核数相同。

六、Io_servie::stop的实现

  加锁,调用stop_all_threads

  设置stopped_变量为true,遍历所有的空闲线程,依次唤醒

  task_interrupted_设置为true,调用task_的interrupt方法。

七、reset和stop

文档中reset的解释是重置io_service以便下一次调用。

 run,run_one,poll,poll_one是被stop掉导致退出,或者由于完成了所有任务(正常退出)导致退出时,在调用下一次 run,run_one,poll,poll_one之前,必须调用此函数。reset不能在run,run_one,poll,poll_one正在运行时调用。如果是消息处理handler(用户代码)抛出异常,则可以在处理之后直接继续调用 io.run,run_one,poll,poll_one。

八、run,run_one,poll,poll_one的区别

run其实就是一直循环执行do_one,并且是以阻塞方式进行的(参数为true),而run_one同样是以阻塞方式进行的,但只执行一次do_one;poll和run几乎完全相同,只是它是以非阻塞方式执行do_one(参数为false),poll_one是以非阻塞方式执行一次do_one。

run,run_one,及poll,poll_one的实现代码,如下:

 

[cpp]  view plain  copy
 
  1. // Run the event loop until stopped or no more work.  
  2. size_t run(boost::system::error_code& ec)  
  3. {  
  4.   if (::InterlockedExchangeAdd(&outstanding_work_, 0) == 0)  
  5.   {  
  6.     stop();  
  7.     ec = boost::system::error_code();  
  8.     return 0;  
  9.   }  
  10.   
  11.   call_stack<win_iocp_io_service>::context ctx(this);  
  12.   
  13.   size_t n = 0;  
  14.   while (do_one(true, ec))  
  15.     if (n != (std::numeric_limits<size_t>::max)())  
  16.       ++n;  
  17.   return n;  
  18. }  
  19.   
  20. // Run until stopped or one operation is performed.  
  21. size_t run_one(boost::system::error_code& ec)  
  22. {  
  23.   if (::InterlockedExchangeAdd(&outstanding_work_, 0) == 0)  
  24.   {  
  25.     stop();  
  26.     ec = boost::system::error_code();  
  27.     return 0;  
  28.   }  
  29.   
  30.   call_stack<win_iocp_io_service>::context ctx(this);  
  31.   
  32.   return do_one(true, ec);  
  33. }  
  34.   
  35. // Poll for operations without blocking.  
  36. size_t poll(boost::system::error_code& ec)  
  37. {  
  38.   if (::InterlockedExchangeAdd(&outstanding_work_, 0) == 0)  
  39.   {  
  40.     stop();  
  41.     ec = boost::system::error_code();  
  42.     return 0;  
  43.   }  
  44.   
  45.   call_stack<win_iocp_io_service>::context ctx(this);  
  46.   
  47.   size_t n = 0;  
  48.   while (do_one(false, ec))  
  49.     if (n != (std::numeric_limits<size_t>::max)())  
  50.       ++n;  
  51.   return n;  
  52. }  
  53.   
  54. // Poll for one operation without blocking.  
  55. size_t poll_one(boost::system::error_code& ec)  
  56. {  
  57.   if (::InterlockedExchangeAdd(&outstanding_work_, 0) == 0)  
  58.   {  
  59.     stop();  
  60.     ec = boost::system::error_code();  
  61.     return 0;  
  62.   }  
  63.   
  64.   call_stack<win_iocp_io_service>::context ctx(this);  
  65.   
  66.   return do_one(false, ec);  
  67. }  
  68. do_one的函数原型  
  69. size_t do_one(bool block, boost::system::error_code& ec)  
  70. {  
  71. …  
  72. BOOL ok = ::GetQueuedCompletionStatus(iocp_.handle, &bytes_transferred, &completion_key, &overlapped, block ? timeout : 0);  
  73. …  
  74. }  
目录
相关文章
|
4月前
|
Java 大数据
解析Java中的NIO与传统IO的区别与应用
解析Java中的NIO与传统IO的区别与应用
|
1月前
|
Linux C++
Linux C/C++之IO多路复用(poll,epoll)
这篇文章详细介绍了Linux下C/C++编程中IO多路复用的两种机制:poll和epoll,包括它们的比较、编程模型、函数原型以及如何使用这些机制实现服务器端和客户端之间的多个连接。
23 0
Linux C/C++之IO多路复用(poll,epoll)
|
1月前
|
自然语言处理 Java 数据处理
Java IO流全解析:字节流和字符流的区别与联系!
Java IO流全解析:字节流和字符流的区别与联系!
74 1
|
2月前
|
Java 大数据 API
Java 流(Stream)、文件(File)和IO的区别
Java中的流(Stream)、文件(File)和输入/输出(I/O)是处理数据的关键概念。`File`类用于基本文件操作,如创建、删除和检查文件;流则提供了数据读写的抽象机制,适用于文件、内存和网络等多种数据源;I/O涵盖更广泛的输入输出操作,包括文件I/O、网络通信等,并支持异常处理和缓冲等功能。实际开发中,这三者常结合使用,以实现高效的数据处理。例如,`File`用于管理文件路径,`Stream`用于读写数据,I/O则处理复杂的输入输出需求。
|
2月前
|
网络协议 Java Linux
高并发编程必备知识IO多路复用技术select,poll讲解
高并发编程必备知识IO多路复用技术select,poll讲解
|
3月前
|
小程序 Linux 开发者
Linux之缓冲区与C库IO函数简单模拟
通过上述编程实例,可以对Linux系统中缓冲区和C库IO函数如何提高文件读写效率有了一个基本的了解。开发者需要根据应用程序的具体需求来选择合适的IO策略。
32 0
|
4月前
|
存储 Linux 网络安全
Centos安装Docker的详细安装步骤,Docker相关组件:docker-ce-cli、docker-ce和containerd.io的区别
Centos安装Docker的详细安装步骤,Docker相关组件:docker-ce-cli、docker-ce和containerd.io的区别;CentOS7安装DockerCompose;Docker镜像仓库
699 11
|
4月前
|
存储 Java Unix
(八)Java网络编程之IO模型篇-内核Select、Poll、Epoll多路复用函数源码深度历险!
select/poll、epoll这些词汇相信诸位都不陌生,因为在Redis/Nginx/Netty等一些高性能技术栈的底层原理中,大家应该都见过它们的身影,接下来重点讲解这块内容。
|
5月前
|
Java 数据库连接
提升编程效率的利器: 解析Google Guava库之IO工具类(九)
提升编程效率的利器: 解析Google Guava库之IO工具类(九)
|
5月前
|
Linux C++
c++高级篇(三) ——Linux下IO多路复用之poll模型
c++高级篇(三) ——Linux下IO多路复用之poll模型