人工智能|RAG 检索增强生成

简介: 1. 理解什么是 RAG 检索增强。2. 理解 RAG 检索增强应用场景。3. 了解 RAG 检索增强有哪些相关的使用方法。4. 在后续的学习过程中,会结合 LangChain 与 assistant 完成 RAG 相关的实战练习。

简介

现有的 ChatGPT 的大语言模型中,虽然它本身的功能已经非常强悍了,但是它依然存在一些致命的问题:

  1. 偏见:大语言模型没有分辨好坏的能力,所以在回答问题的时候,如果不做任何调整,可能会返回一些不好的内容,比如性别歧视,种族歧视。
  2. 幻觉:大语言模型有时候并不那么靠谱,返回的内容会让人觉得驴唇不对马嘴。包括信息也无法完全可信。
  3. 信息过时:因为没有联网能力,那么代表着从 2023 年 x 月 x 日之后所有的信息,它都是不了解的。

那么大模型 LLM 如何解决这些问题,使其生成的内容质量更高,就成了一个难题。

而 RAG(Retrieval-Augmented Generation),通过将检索模型和生成模型(LLM)结合在一起,即可提高了生成内容的相关性和质量。

RAG 的优点

  1. 外部知识的利用。
  2. 数据及时更新。
  3. 高度定制能力。
  4. 减少成本。

RAG 的应用场景

RAG 技术的主要应用场景为:

  1. 问答系统(QA Systems):RAG 可以用于构建强大的问答系统,能够回答用户提出的各种问题。它能够通过检索大规模文档集合来提供准确的答案,无需针对每个问题进行特定训练。
  2. 文档生成和自动摘要 (Document Generation and Automatic Summarization):RAG 可用于自动生成文章段落、文档或自动摘要,基于检索的知识来填充文本,使得生成的内容更具信息价值。
  3. 智能助手和虚拟代理(Intelligent Assistants and Virtual Agents):RAG 可以用于构建智能助手或虚拟代理,结合聊天记录回答用户的问题、提供信息和执行任务,无需进行特定任务微调。
  4. 信息检索(Information Retrieval):RAG 可以改进信息检索系统,使其更准确深刻。用户可以提出更具体的查询,不再局限于关键词匹配。
  5. 知识图谱填充(Knowledge Graph Population):RAG 可以用于填充知识图谱中的实体关系,通过检索文档来识别和添加新的知识点。

RAG 检索增强的原理

image.png

从上图可能很多同学非常好奇,大模型是如何与“外挂”数据库进行交互的。不是说大模型不能联网吗?其实大模型和数据库的交互,也是通过提示词完成的。

image.png

当然在以上实现过程中,可能会有数据信息极为庞大,而且冗余,如果直接发给大模型,上下文也会极为庞大。所以通常在这种情况下,会对数据库内的数据做一个预处理。让其变的易检索。这个预处理的过程,就使用了向量数据库以及embedding。

如下这张图便是 RAG 的完整过程:

image.png

RAG 实践应用

LangChain 包括 ChatGPT 的官方 assistant 的 Retrieval 其实都利用了 RAG 的原理。在后续的课程中会有更深入的实战应用。比如打造垂直领域内容的问答机器人。

相关资料

  • RAG 官方文档说明

总结

  1. 理解什么是 RAG 检索增强。
  2. 理解 RAG 检索增强应用场景。
  3. 了解 RAG 检索增强有哪些相关的使用方法。
  4. 在后续的学习过程中,会结合 LangChain 与 assistant 完成 RAG 相关的实战练习。
相关文章
|
4月前
|
存储 人工智能 自然语言处理
【RAG】人工智能:检索增强(RAG)六步学习法
【5月更文挑战第1天】人工智能检索增强学习六步基本介绍
135 4
|
4月前
|
人工智能 自然语言处理 搜索推荐
人工智能,应该如何测试?(八)企业级智能客服测试大模型 RAG
大模型如GPT虽表现出众,但在特定领域和实时信息方面表现不足,易产生“幻觉”即编造答案。其能力受限于训练数据,无法提供超出数据范围的专业知识。为解决此问题,采用意图识别模型预判问题归属,结合检索增强生成(RAG)技术,通过检索相关信息注入大模型以提升回答质量。测试人员利用RAG评估模型效果,有时借助GPT进行自动化评分,尤其是在非专业领域,但GPT评分的准确性仍有限,人工评估更为可靠。
173 0
|
4月前
|
人工智能 自然语言处理 数据库
什么是人工智能领域的 RAG 搜索增强
什么是人工智能领域的 RAG 搜索增强
|
12天前
|
机器学习/深度学习 人工智能 搜索推荐
人工智能在医疗领域的应用
【8月更文挑战第26天】随着科技的进步,人工智能(AI)已经逐渐渗透到我们生活的各个方面,其中医疗领域是其最重要的应用领域之一。AI技术的应用不仅可以提高医疗服务的效率和质量,还可以帮助医生进行更准确的诊断和治疗。本文将探讨AI在医疗领域的应用,包括疾病预测、辅助诊断、个性化治疗方案等方面的内容。同时,也将分享一些实际的代码示例,以帮助读者更好地理解和掌握这些技术。
|
18天前
|
机器学习/深度学习 人工智能 搜索推荐
探索人工智能在医疗诊断中的应用
【8月更文挑战第20天】随着技术的不断进步,人工智能(AI)已渗透到我们生活的各个方面,尤其是在医疗领域的应用引起了广泛的关注。AI技术通过提高诊断的准确性和效率,正在逐步改变传统的医疗诊断模式。本文将探讨AI在医疗诊断中的几种主要应用,包括影像诊断、病理分析和基因测序,以及这些技术如何帮助医生进行更准确的诊断。同时,文章也将讨论AI技术面临的挑战和未来的发展趋势。
|
2天前
|
机器学习/深度学习 数据采集 人工智能
探索人工智能在文本情感分析中的应用
【9月更文挑战第4天】本文旨在通过一个简化的模型,介绍如何利用AI技术对文本进行情感分析。我们将从基础理论出发,逐步深入到实际操作,展示如何训练一个简单的情感分析模型。文章不仅涵盖了理论知识,还提供了代码示例,帮助读者更好地理解并实践所学知识。
|
8天前
|
机器学习/深度学习 人工智能 算法
探索人工智能在医疗诊断中的应用与挑战
【7月更文挑战第61天】 随着技术的进步,人工智能(AI)已逐渐渗透到各行各业,特别是在医疗领域。AI在提高诊断准确性、个性化治疗和疾病预防方面的潜力巨大。本文旨在探讨AI在医疗诊断中的应用,包括图像识别、模式分析和预测建模,并分析其面临的主要挑战,如数据隐私、算法透明度以及医疗专业人员的接受度。通过实例说明AI如何辅助医生进行更精确的决策,同时指出了目前技术的局限性和未来的发展方向。
|
9天前
|
机器学习/深度学习 人工智能 自动驾驶
探索人工智能的未来应用:从智能助手到自动驾驶
【8月更文挑战第30天】 在本文中,我们将深入探讨人工智能(AI)的未来应用,从智能助手到自动驾驶。我们将看到AI如何改变我们的生活,并讨论其潜在的影响和挑战。让我们一起探索这个令人兴奋的领域吧!
|
11天前
|
传感器 人工智能 自动驾驶
人工智能在现代生活中的应用与挑战
【8月更文挑战第27天】本文将探讨人工智能(AI)如何在各个领域中改变我们的生活,并讨论它所面临的挑战。我们将从AI的基础知识入手,逐步深入到其在医疗、交通和教育等领域的应用案例,最后讨论AI技术发展过程中的道德和隐私问题。文章旨在为读者提供一个全面而深入的视角,理解AI技术的潜力和风险。
下一篇
DDNS