生产者消费者模式保姆级教程 (阻塞队列解除耦合性) 一文帮你从C语言版本到C++ 版本, 从理论到实现 (一文足以)

简介: 生产者消费者模式保姆级教程 (阻塞队列解除耦合性) 一文帮你从C语言版本到C++ 版本, 从理论到实现 (一文足以)

一. 图解,步步分解理论基础

1.1 使用锁 + 条件变量实现生产者消费者模式理论基础

队列为空 和 队列满的时候需要阻塞住队列, 需要使用条件变量来实现判断是否需要阻塞队列


思考1 :  生产者生产需要的是空位置存储生产的产品, 消费者消费需要的是队列中存在产品, 于是如下


condition1 :  free (空位, 表示队列不是满的, 存在空位)

condition2 :  full : (装有产平, 代表队列不是空的, 存在产品)

伪代码逻辑:


当队列为空的时候, 需要等待队列中含有产品, 等待消费 ,  同时通知唤醒一下生产者, 催一下, 你快点生产喔, 队列中绝对满足有空位条件的, 你快点生产吧哥


当队列为满的时候, 需要等待队列中含有空位, 等待生产,   同时通知唤醒一下消费者,  催一下,你快点消费喔, 队列中绝对满足有产品条件的, 你快点消费吧哥


解释while :  防止伪唤醒  :  消费线程在等待生产者线程生产出产品唤醒自己进行消费, 但是生产者可能仅仅只是生产出来一个产品, 但是它广播告诉所有的消费者线程你们醒过来争抢这一个消费名额吧, 其实最终只能有一个消费者得偿所愿, 其他的消费者相当于被骗了, 自己刚醒过来, 但是产品别别人抢走了, 现在还是空的, 那咋办? 继续睡, 所以需要循环的进行判断自己是不是被伪唤醒了, 是的话, 继续等

while (Isempty(bq)) {
    Wait(full);
    Notify(free);           
} 
while (IsFull(bq)) {
    Wait(free);
    Notify(full); 
}

思考2: 队列中的产品和空位是什么样的资源??  是可能别多个线程同时争抢的资源, 所以这种多个线程争抢的写入操作的资源是什么资源?? 是 临界资源, 于是乎需要的是加锁进行原子操作. 在多个线程都想对阻塞队列进行写入操作的过程中保护阻塞队列这个临界资源的操

//伪代码
Lock();
...  //临界资源处理的逻辑代码块
Unlock();

1.2 使用信号量实现生产者消费者模式的理论基础

其实大体逻辑和上述是差不多的, 只是此处没有了条件变量和锁, 换之代替的是信号量

信号量:  我的理解就是具有保护特性的临界资源...   啥意思呢,   一个信号量就是一个临界资源, -pthread  链接库中包含了一系列封装好的使用这个信号量临界资源的函数.....

这些函数方法本身就包含了对于多线程同步访问临界资源(共享资源的处理机制)

       int sem_init(sem_t *sem, int pshared, unsigned int value);           //初始化信号量, pshared : 0 用于线程间同步, 1 用于进程间同步, value 初始化值


      int sem_destroy(sem_t *sem);    //销毁信号量


       int sem_wait(sem_t *sem);        //消费一个临界资源信号量, 如果信号量 val 值 > 0 直接 val -= 1;  如果信号量值 == 0 了 阻塞起来等待它 > 0 再行消费


      int sem_post(sem_t *sem);       //生产一个临界资源信号量, 对应临界资源信号量 += 1, 归还资源, 同时如果之前   sem 的 val == 0 阻塞等待消费, 这个时候会相当于唤醒消费者消费


//其实信号量本身就是生产者消费者之间共享的临界资源, 通过对它的操作, 来制约了多线程的同步互斥访问这个临界资源的有条不紊的有序进行

  • 此处竟然说到了同步互斥访问临界资源了, 想必特别多的人对于同步  异步, 互斥 这些是分不清的, 此处图解一下:
  • 上述仅仅个人己见, 对于这种抽象概念的看发, 本就是随着理解层次的深入而深入的
  • 同步事件之间相互是需要等待制约的,  比如线程1 对于临界资源做写入操作的时候, 其他线程需要等待他用完之后放回去才能用....     所以同步 (暗藏相互的一种等待关系)

图解异步解耦合,  使用阻塞队列:

解释异步事件, 还有很多人会从函数阻塞等待还是函数直接返回的角度来解释,  其实我觉得使用的是同样的思想, 函数不需要等待直接返回, 其实就解除了两者之间的耦合关联了, 我不需要等你准备好, 你妹准备好管我屁事, 我直接返回就是了, 你约束不了我

同步事件 :   正好相反, 你没准备好我就不能直接返回,需要阻塞等待你准备好, 比如等待IO事件的发生

二. Linux环境下对于基于阻塞队列的两种实现方式  (C版本)

  • 队列的形式形式其实不重要, 重要的是阻塞, 于是我都直接使用环形队列来实现,简单方便....

2.1 条件变量 + 锁实现版本

  • 函数方法刨析:

#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>
#include <stdlib.h>
#include <pthread.h>
#include <signal.h>
//定义阻塞队列
typedef  struct BlockQueue {
  size_t cap;//容量
  size_t size;//当前产品个数
  int front;//队头游标
  int tail;//队尾游标
  int* data; //数据域
  pthread_mutex_t lock;
  pthread_cond_t full;
  pthread_cond_t free;
} BlockQueue;
BlockQueue* bqp;//定义全局方便信号处理时候销毁
void DestroyBlockQueue(BlockQueue* bqp) {
  free(bqp->data);
  pthread_mutex_destroy(&bqp->lock);
  pthread_cond_destroy(&bqp->full);
  pthread_cond_destroy(&bqp->free);
}
//信号处理, 销毁整个阻塞队列。 做结束处理S
void handler(int signo) {
  printf("ByeBye\n");
  DestroyBlockQueue(bqp);
  exit(EXIT_SUCCESS);
}
//初始化阻塞队列
BlockQueue* InitQueue(int n) {
  BlockQueue* bqp = (BlockQueue*)malloc(sizeof(BlockQueue));
  bqp->cap = n;
  bqp->size = 0;
  bqp->front = bqp->tail = 0;
  bqp->data = (int*)malloc(sizeof(int) * n);
  pthread_mutex_init(&bqp->lock, NULL);
  pthread_cond_init(&bqp->free, NULL);
  pthread_cond_init(&bqp->full, NULL);
  return bqp;
}
int IsEmpty(BlockQueue* bqp) {
  return bqp->size == 0;
}
int IsFull(BlockQueue* bqp) {
  return bqp->size == bqp->cap;
}
void WaitConsume(BlockQueue* bqp) {//等待消费, 等队列有产品
  pthread_cond_wait(&bqp->full, &bqp->lock);
}
void WaitProduct(BlockQueue* bqp) {//等待生产, 等队列有空位
  pthread_cond_wait(&bqp->free, &bqp->lock);
}
void NotifyConsume(BlockQueue* bqp) {//通知消费, 队列中有产品了
  pthread_cond_signal(&bqp->full);
}
void NotifyProduct(BlockQueue* bqp) {//通知生产, 队列中有空位了
  pthread_cond_signal(&bqp->free);
}
void Lock(BlockQueue* bqp) {
  pthread_mutex_lock(&bqp->lock);
}
void Unlock(BlockQueue* bqp) {
  pthread_mutex_unlock(&bqp->lock);
}
void Push(BlockQueue* bqp, int val) {
  Lock(bqp);
  while (IsFull(bqp)) {
    WaitProduct(bqp);//没有空位等待生产
    NotifyConsume(bqp);//催促消费
  }
  bqp->data[bqp->tail++] = val;
  bqp->tail %= bqp->cap;
  Unlock(bqp);
  bqp->size += 1;
  NotifyConsume(bqp);//有产品了通知消费
}
void Pop(BlockQueue* bqp, int* popval) {
  Lock(bqp);
  while (IsEmpty(bqp)) {
    WaitConsume(bqp);//没有产品等待消费
    NotifyProduct(bqp);//催促生产
  }
  *popval = bqp->data[bqp->front++];
  bqp->front %= bqp->cap;
  Unlock(bqp);
  bqp->size -= 1;
  NotifyProduct(bqp);//有空位了通知生产
}
void* ConsumeRoutine(void* args) {//消费者线程执行函数
    BlockQueue* bqp = (BlockQueue*)args;
  int popval = 0;
    for ( ;; ) {
        Pop(bqp, &popval);//取出消费产品
      printf("PopVal is %d, and has %d Products\n", popval, bqp->size); 
        sleep(rand() % 3);
    }
  return (void*)0;
}
void* ProductRoutine(void* args) {//生产者线程执行函数
  BlockQueue* bqp = (BlockQueue*)args;
  int pushval = 0;
    for ( ;;  ) {
      pushval = rand() % 1024;//随机一个数组当作产品
        Push(bqp, pushval);//装入产品
      printf("PushVal is %d, and has %d Products\n", pushval, bqp->size); 
        sleep(rand() % 3);
    }
  return (void*)0;
}
int main() {
    signal(SIGINT, handler);//注册信号处理函数
  srand((unsigned int)time(NULL));
  bqp = InitQueue(30);
  pthread_t consume1, consume2, product1, product2; 
  pthread_create(&product1, NULL, ProductRoutine, (void*)bqp);
  pthread_create(&product2, NULL, ProductRoutine, (void*)bqp);
  pthread_create(&consume1, NULL, ConsumeRoutine, (void*)bqp);
  pthread_create(&consume2, NULL, ConsumeRoutine, (void*)bqp);
  pthread_join(product1, NULL);
  pthread_join(product2, NULL);
  pthread_join(consume1, NULL);
  pthread_join(consume2, NULL);
  return 0;
}

2.2  信号量实现版本

#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>
#include <stdlib.h>
#include <pthread.h>
#include <signal.h>
#include <semaphore.h>
//定义阻塞队列
typedef  struct BlockQueue {
  size_t cap;//容量
  size_t size;//当前产品个数
  int front;//队头游标
  int tail;//队尾游标
  int* data; //数据域
  sem_t data_sem;//产品信号量, 阻塞队列中有多少产品
  sem_t space_sem;//空位信号量. 阻塞队列中有多少空位
} BlockQueue;
BlockQueue* bqp;//定义全局方便信号处理时候销毁
void DestroyBlockQueue(BlockQueue* bqp) {
  free(bqp->data);
  sem_destroy(&bqp->data_sem);
  sem_destroy(&bqp->space_sem);
}
//信号处理, 销毁整个阻塞队列。 做结束处理S
void handler(int signo) {
  printf("ByeBye\n");
  DestroyBlockQueue(bqp);
  exit(EXIT_SUCCESS);
}
//初始化阻塞队列
BlockQueue* InitQueue(int n) {
  BlockQueue* bqp = (BlockQueue*)malloc(sizeof(BlockQueue));
  bqp->cap = n;
  bqp->size = 0;
  bqp->front = bqp->tail = 0;
  bqp->data = (int*)malloc(sizeof(int) * n);
  sem_init(&bqp->data_sem, 0, 0);//初始化产品量0
  sem_init(&bqp->space_sem, 0, n);//初始化空位量为队列容量
  return bqp;
}
void Push(BlockQueue* bqp, int val) {
  sem_wait(&bqp->space_sem);//P 申请一个空位资源
  bqp->data[bqp->tail++] = val;
  bqp->tail %= bqp->cap;
  bqp->size += 1;
  sem_post(&bqp->data_sem); //V 制作或者说产生一个产品资源
}
void Pop(BlockQueue* bqp, int* popval) {
  sem_wait(&bqp->data_sem); //P 申请一个产品
  *popval = bqp->data[bqp->front++];
  bqp->front %= bqp->cap;
  bqp->size -= 1;
  sem_post(&bqp->space_sem);//V 归还一个空位
}
void* ConsumeRoutine(void* args) {//消费者线程执行函数
  BlockQueue* bqp = (BlockQueue*)args;
  int popval = 0;
    for ( ;; ) {
    Pop(bqp, &popval);//取出消费产品
    printf("PopVal is %d, and has %d Products\n", popval, bqp->size); 
      sleep(rand() % 3);
    }
  return (void*)0;
}
void* ProductRoutine(void* args) {//生产者线程执行函数
  BlockQueue* bqp = (BlockQueue*)args;
  int pushval = 0;
    for ( ;;  ) {
    pushval = rand() % 1024;//随机一个数组当作产品
      Push(bqp, pushval);//装入产品
    printf("PushVal is %d, and has %d Products\n", pushval, bqp->size); 
      sleep(rand() % 3);
   }
  return (void*)0;
}
int main() {
  signal(SIGINT, handler);
  srand((unsigned int)time(NULL));
  bqp = InitQueue(30);
  pthread_t consume1, consume2, product1, product2; 
  pthread_create(&product1, NULL, ProductRoutine, (void*)bqp);
  pthread_create(&product2, NULL, ProductRoutine, (void*)bqp);
  pthread_create(&consume1, NULL, ConsumeRoutine, (void*)bqp);
  pthread_create(&consume2, NULL, ConsumeRoutine, (void*)bqp);
  pthread_join(product1, NULL);
  pthread_join(product2, NULL);
  pthread_join(consume1, NULL);
  pthread_join(consume2, NULL);
  return 0;
}

三. C++11 新特性产生的线程库实现版本

首先是基础理论支撑, 函数分析什么的, 如果不清楚的可以去看如下的博客刨析

https://blog.csdn.net/weixin_53695360/article/details/122969157?spm=1001.2014.3001.5502

#include <iostream>
#include <thread>
#include <mutex>
#include <condition_variable>
#include <queue>
#include <windows.h>
using namespace std;
#define NUM 10
class BlockQueue {
public:
  BlockQueue(int cap = NUM)
    : _cap(cap)
  {}
  void Push(int val) {
    unique_lock<mutex> _lock(mtx);
    while (IsFull()) {
      _free.wait(_lock);//没有空位生产等待
      NotifyConsume();//催促消费
    }
    _q.push(val);//生产产品
    NotifyConsume();//有产品了通知消费
  }
  void Pop(int& popval) {
    unique_lock<mutex> _lock(mtx);
    while (IsEmpty()) {
      _full.wait(_lock);//没有产品消费等待
      NotifyProduct();//催促生产
    }
    popval = _q.front();
    _q.pop();//消费产品
    NotifyProduct();//有空位了通知生产
  }
  int Size() {
    return _q.size();
  }
private:
  queue<int> _q;//存储队列
  int _cap;//容量
  mutex mtx;
  condition_variable _full;//存在产品
  condition_variable _free;//存在空位
private:
  void NotifyConsume() {
    _full.notify_one();//通知消费
  }
  void NotifyProduct() {
    _free.notify_one();//通知生产
  }
  bool IsEmpty() {
    return _q.size() == 0;
  }
  bool IsFull() {
    return _q.size() == _cap;
  }
};
void ConsumeRoutine(void* args) {//消费者线程执行函数
  BlockQueue* bqp = (BlockQueue*)args;
  int popval = 0;
  for (;;) {
    bqp->Pop(popval);//取出消费产品
    printf("PopVal is %d, and has %d Products\n", popval, bqp->Size());
    Sleep((rand() % 3) * 100);
  }
}
void ProductRoutine(void* args) {//生产者线程执行函数
  BlockQueue* bqp = (BlockQueue*)args;
  int pushval = 0;
  for (;;) {
    pushval = rand() % 1024;//随机一个数组当作产品
    bqp->Push(pushval);//装入产品
    printf("PushVal is %d, and has %d Products\n", pushval, bqp->Size());
    Sleep((rand() % 3) * 100);
  }
}
int main() {
  srand((unsigned long)time(NULL));
  BlockQueue bq(30);
  thread t1(ProductRoutine, &bq);
  thread t2(ProductRoutine, &bq);
  thread t3(ConsumeRoutine, &bq);
  thread t4(ConsumeRoutine, &bq);
  t1.join();
  t2.join();
  t3.join();
  t4.join();
  return 0;
}

四. 总结本章

本章主要介绍了基于阻塞队列的生产者消费者模式, 阻塞队列的作用是解除掉生产者和消费者之间的耦合关系, 消费者从阻塞队列中拿取产品,  生产者向阻塞队列中Push生产产品


生产者消费者模式就是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯,而 通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不找生产者 要数据,而是直接从阻塞队列里取,阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力。这个阻塞队 列就是用来给生产者和消费者解耦的。


然后还介绍了一下同步等待事件  和  异步直接返回不等待的事件的区别...


同步阻塞IO : 用户主线程在发起一个IO操作以后, 必须挂起等待IO 操作完成, 才能继续运行下去


同步非阻塞IO :  用户主线程发起一个IO操作之后直接返回, 但是需要不是循环是否IO就绪,轮询操作。。。


异步阻塞IO   :  用户主线程发起 一个 IO 操作之后还是直接返回干自己的事情, 但是不需要进行轮询了,     其他的线程会阻塞起来帮我们监视IO。 满足了就通知主线程  大哥 IO就绪了你可以干事情了


最后就是使用不同的方式完成生产者消费者模式的实现



相关文章
|
30天前
|
Linux 编译器 测试技术
【C++】CentOS环境搭建-快速升级G++版本
通过上述任一方法,您都可以在CentOS环境中高效地升级G++至所需的最新版本,进而利用C++的新特性,提升开发效率和代码质量。
149 64
|
1月前
|
Linux 编译器 测试技术
【C++】CentOS环境搭建-快速升级G++版本
通过上述任一方法,您都可以在CentOS环境中高效地升级G++至所需的最新版本,进而利用C++的新特性,提升开发效率和代码质量。
171 63
|
21天前
|
算法 数据挖掘 Shell
「毅硕|生信教程」 micromamba:mamba的C++实现,超越conda
还在为生信软件的安装配置而烦恼?micromamba(micromamba是mamba包管理器的小型版本,采用C++实现,具有mamba的核心功能,且体积更小,可以脱离conda独立运行,更易于部署)帮你解决!
46 1
|
1月前
|
存储 C++
c++的指针完整教程
本文提供了一个全面的C++指针教程,包括指针的声明与初始化、访问指针指向的值、指针运算、指针与函数的关系、动态内存分配,以及不同类型指针(如一级指针、二级指针、整型指针、字符指针、数组指针、函数指针、成员指针、void指针)的介绍,还提到了不同位数机器上指针大小的差异。
33 1
|
1月前
|
Linux C语言 C++
vsCode远程执行c和c++代码并操控linux服务器完整教程
这篇文章提供了一个完整的教程,介绍如何在Visual Studio Code中配置和使用插件来远程执行C和C++代码,并操控Linux服务器,包括安装VSCode、安装插件、配置插件、配置编译工具、升级glibc和编写代码进行调试的步骤。
172 0
vsCode远程执行c和c++代码并操控linux服务器完整教程
|
3月前
|
缓存 C++ Windows
Inno setup 脚本判断 Microsoft Visual C++ Redistributable 不同版本区别
Inno setup 脚本判断 Microsoft Visual C++ Redistributable 不同版本区别
|
4月前
|
前端开发 C语言
C语言04---第一个HelloWorld(vc版本)
C语言04---第一个HelloWorld(vc版本)
|
5月前
|
存储 算法 编译器
C++ 函数式编程教程
C++ 函数式编程学习
|
5月前
|
存储 编译器 开发工具
C++语言教程分享
C++语言教程分享
|
5月前
|
存储 编译器 C++