循环缓冲区 【ChatGPT】

简介: 循环缓冲区 【ChatGPT】

循环缓冲区

作者:

Linux提供了许多功能,可用于实现循环缓冲区。有两组这样的功能:

  1. 用于确定2的幂大小缓冲区信息的便利函数。
  2. 当缓冲区中的对象的生产者和消费者不想共享锁时,使用内存屏障。

要使用下面讨论的这些功能,只需要一个生产者和一个消费者。可以通过串行化来处理多个生产者,并通过串行化来处理多个消费者。

什么是循环缓冲区?

首先,什么是循环缓冲区?循环缓冲区是一个固定大小的缓冲区,其中有两个索引:

  • '头'索引 - 生产者将项目插入缓冲区的位置。
  • '尾'索引 - 消费者在缓冲区中找到下一个项目的位置。

通常情况下,当尾指针等于头指针时,缓冲区为空;当头指针比尾指针小1时,缓冲区为满。

当添加项目时,头索引会递增,而当移除项目时,尾索引会递增。尾索引不应超过头索引,并且当它们到达缓冲区末尾时,两个索引都应该被包装到0,从而允许无限量的数据流经过缓冲区。

通常,项目都是相同的单位大小,但并不严格要求使用下面的技术。如果要在缓冲区中包含多个项目或大小可变的项目,则可以逐渐增加索引,前提是两个索引都不会超过对方。但是,实施者必须小心,因为一个大于一个单位大小的区域可能会包装到缓冲区的末尾,并被分成两个段。

测量2的幂缓冲区

通常情况下,计算任意大小的循环缓冲区的占用量或剩余容量将是一个缓慢的操作,需要使用模数(除法)指令。但是,如果缓冲区的大小是2的幂,则可以使用更快的按位AND指令。

Linux提供了一组用于处理2的幂循环缓冲区的宏。可以通过以下方式使用这些宏:

#include <linux/circ_buf.h>

这些宏包括:

  • 测量缓冲区中剩余的空间:
CIRC_SPACE(head_index, tail_index, buffer_size);
  • 这将返回缓冲区中剩余的空间,可以插入项目。
  • 测量缓冲区中最大的连续空间:
CIRC_SPACE_TO_END(head_index, tail_index, buffer_size);
  • 这将返回缓冲区中最大的连续空间,可以立即插入项目,而无需回到缓冲区的开头。
  • 测量缓冲区的占用量:
CIRC_CNT(head_index, tail_index, buffer_size);
  • 这将返回当前占用缓冲区的项目数。
  • 测量缓冲区中不会包装的占用量:
CIRC_CNT_TO_END(head_index, tail_index, buffer_size);
  • 这将返回可以从缓冲区中提取的连续项目数,而无需回到缓冲区的开头。

这些宏中的每一个通常会返回一个介于0和buffer_size-1之间的值,但是:

  • CIRC_SPACE*() 用于生产者。对于生产者,它们将返回一个下限,因为生产者控制头索引,但是消费者可能仍在另一个CPU上耗尽缓冲区并移动尾索引。
  • 对于消费者,它将显示一个上限,因为生产者可能正在忙于耗尽空间。
  • CIRC_CNT*() 用于消费者。对于消费者,它们将返回一个下限,因为消费者控制尾索引,但是生产者可能仍在另一个CPU上填充缓冲区并移动头索引。
  • 对于生产者,它将显示一个上限,因为消费者可能正在忙于清空缓冲区。
  • 对于第三方,无法保证生产者和消费者对索引的写入的可见性顺序,因为它们是独立的,可能在不同的CPU上进行 - 因此,在这种情况下的结果只是一个猜测,甚至可能是负数。

使用内存屏障与循环缓冲区

通过在循环缓冲区中使用内存屏障,可以避免以下需求:

  • 使用单个锁来管理对缓冲区两端的访问,从而允许缓冲区同时被填充和清空。
  • 使用原子计数操作。

这有两个方面:填充缓冲区的生产者和清空缓冲区的消费者。在任何时候,只应该有一件事在填充缓冲区,而只应该有一件事在清空缓冲区,但是两个方面可以同时操作。

生产者

生产者将类似于以下内容:

spin_lock(&producer_lock);
unsigned long head = buffer->head;
/* spin_unlock() 和下一个 spin_lock() 提供所需的排序。 */
unsigned long tail = READ_ONCE(buffer->tail);
if (CIRC_SPACE(head, tail, buffer->size) >= 1) {
/* 将一个项目插入缓冲区 */
struct item *item = buffer[head];
        produce_item(item);
        smp_store_release(buffer->head,
                          (head + 1) & (buffer->size - 1));
/* wake_up() 确保在唤醒任何人之前,头部已经提交 */
        wake_up(consumer);
}
spin_unlock(&producer_lock);

这将指示CPU必须在将新项目的内容写入之前,将头索引使其对消费者可用,并且指示CPU必须在唤醒消费者之前,必须写入修订后的头索引。

请注意,wake_up() 不会保证任何类型的屏障,除非实际唤醒了某些内容。因此,我们不能依赖它进行排序。但是,数组中始终会留下一个元素为空。因此,生产者必须在可能损坏消费者当前正在读取的元素之前产生两个元素。因此,在连续调用消费者之间的解锁-锁对提供了所需的排序,用于指示消费者已经空出了给定元素的索引的读取,以及生产者对该相同元素的写入。

消费者

消费者将类似于以下内容:

spin_lock(&consumer_lock);
/* 在读取该索引的内容之前读取索引。 */
unsigned long head = smp_load_acquire(buffer->head);
unsigned long tail = buffer->tail;
if (CIRC_CNT(head, tail, buffer->size) >= 1) {
/* 从缓冲区中提取一个项目 */
struct item *item = buffer[tail];
        consume_item(item);
/* 在增加尾部之前完成读取描述符。 */
        smp_store_release(buffer->tail,
                          (tail + 1) & (buffer->size - 1));
}
spin_unlock(&consumer_lock);

这将指示CPU在读取新项目之前,必须确保索引是最新的,然后必须确保CPU在写入新尾指针之前已经完成了读取项目,这将擦除该项目。

请注意,使用READ_ONCE() 和smp_load_acquire() 读取对立索引。这可以防止编译器丢弃并重新加载其缓存的值。如果可以确保对立索引只会被使用一次,则不严格需要这样做。此外,smp_load_acquire() 还强制CPU对后续内存引用进行排序。类似地,两个算法中都使用了smp_store_release() 来写入线程的索引。这说明了我们正在写入可以同时被读取的内容,防止编译器破坏存储,并强制对先前的访问进行排序。

进一步阅读

另请参阅Documentation/memory-barriers.txt,了解Linux的内存屏障功能的描述。

本文来自博客园,作者:摩斯电码,未经同意,禁止

相关文章
|
2月前
|
存储 缓存 API
DMA-BUF缓冲区共享和同步【ChatGPT】
DMA-BUF缓冲区共享和同步【ChatGPT】
|
6月前
|
人工智能 IDE Linux
chatgpt的ai编程工具
该内容是关于两个chatgpt的ai编程工具的安装和使用说明。Copilot的下载步骤包括在IDE的设置中搜索并安装插件,然后重启IDE并登录GitHub账户。使用时,通过写注释触发建议,用快捷键选择建议。启用或禁用Copilot可通过底部状态图标。另一个工具是Alibaba Cloud AI Coding Assistant (Cosy),同样在IDE的插件市场下载安装后重启。其详细使用方法建议参考官网。
299 0
|
3月前
|
人工智能 自然语言处理 搜索推荐
chatgpt这么火,现在AI搜索引擎有哪些呢?
国外AI搜索引擎包括ChatGPT,擅长自然语言处理与内容生成;Google Bard,提供智能个性化搜索体验;Microsoft Bing集成GPT模型增强智能检索;Perplexity AI以简洁答案及文献引用著称;Neeva强调隐私保护与无广告服务。国内方面,天工AI支持多种功能如知识问答与代码编程;腾讯元宝基于混元模型助力内容创造与学习;360AI搜索以精准全面的信息搜索见长;秘塔AI专注提升写作质量和效率;开搜AI搜索提供个性化智能搜索服务。以上引擎均利用先进AI技术提升用户体验。更多详情参阅[AI搜索合集](zhangfeidezhu.com/?page_id=651)。
110 8
chatgpt这么火,现在AI搜索引擎有哪些呢?
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
HuggingGPT解析:使用 ChatGPT及HuggingFace上的族系解决AI问题
HuggingGPT是一个框架,它使用大型语言模型(如ChatGPT)作为控制器来管理和协调Hugging Face上的AI模型,以语言作为通用接口解决多模态和领域的复杂AI任务。
57 0
HuggingGPT解析:使用 ChatGPT及HuggingFace上的族系解决AI问题
|
3月前
|
机器学习/深度学习 人工智能 算法
为什么ChatGPT等AI大模型都是基于Python开发?
为什么ChatGPT等AI大模型都是基于Python开发?
|
3月前
|
人工智能 自然语言处理 Linux
免费ChatGPT4o灵办AI可体验浏览器插件
灵办AI就是您所需的最佳助手!我们为您带来了一款多功能AI工具,ChatGPT4o不仅能为您提供精准翻译,还能满足您的对话需求、智能续写、AI搜索、文档阅读、代码生成与修正等多种需求。灵办 AI,真正让工作和学习变得轻松高效!一款多功能智能助手,旨在提升工作和学习效率。它提供实时翻译、对话问答、搜索、写作和网页阅读等服务,支持多种浏览器和操作系统,帮助用户随时获取信息,打破语言障碍,优化内容创作和信息处理。
116 0
|
3月前
|
Web App开发 人工智能 安全
Gemini vs ChatGPT:谷歌最新的AI和ChatGPT相比,谁更强?
Gemini vs ChatGPT:谷歌最新的AI和ChatGPT相比,谁更强?
|
3月前
|
人工智能 安全 机器人
ChatGPT 1岁:创新、争议和AI产生突破的一年
ChatGPT 1岁:创新、争议和AI产生突破的一年
|
5月前
|
人工智能 安全 机器人
ChatGPT 1岁:创新、争议和AI产生突破的一年
ChatGPT 1岁:创新、争议和AI产生突破的一年
|
5月前
|
人工智能 机器人 API
OpenAI发布新AI模型GPT-4o和桌面版ChatGPT
OpenAI发布新AI模型GPT-4o和桌面版ChatGPT