整合LlamaIndex与LangChain构建高级的查询处理系统

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
大数据开发治理平台 DataWorks,不限时长
简介: 该文阐述了如何结合LlamaIndex和LangChain构建一个扩展性和定制性强的代理RAG应用。LlamaIndex擅长智能搜索,LangChain提供跨平台兼容性。代理RAG允许大型语言模型访问多个查询引擎,增强决策能力和多样化回答。文章通过示例代码展示了如何设置LLM、嵌入模型、LlamaIndex索引及查询引擎,并将它们转换为LangChain兼容的工具,实现高效、精准的问题解答。通过多代理协作,系统能处理复杂查询,提高答案质量和相关性。

构建大型语言模型应用程序可能会颇具挑战,尤其是当我们在不同的框架(如Langchain和LlamaIndex)之间进行选择时。LlamaIndex在智能搜索和数据检索方面的性能令人瞩目,而LangChain则作为一个更加通用的应用程序框架,提供了更好的与各种平台的兼容性。

本篇文章将介绍如何将LlamaIndex和LangChain整合使用,创建一个既可扩展又可定制的代理RAG(Retrieval-Augmented Generation)应用程序,利用两种技术的强大功能,开发出能够处理复杂查询并提供精准答案的高效应用程序。

在我们继续实施之前,需要简单的介绍代理RAG的一些知识:

代理RAG是一种基于代理的RAG实现方式。与传统的一般RAG方法相比,代理RAG在自主性和决策能力方面有了显著提升。我们通过授权大型语言模型(LLM)访问多个RAG查询引擎来创建一个复杂的推理循环。每个查询引擎都作为一种工具,能根据需要被LLM调用。这种结构不仅使得执行复杂决策成为可能,还扩展了系统回答各种查询的能力,并能够更好地为用户提供最适宜的响应。

通过这种方式,代理RAG能够在提供答案的同时,考虑到信息的来源多样性和质量,从而在提供答案时实现更高的准确性和相关性。这种模型的实现,为处理复杂问题和提供创新解决方案提供了更强大的工具。

首先我们定义基本LLM和嵌入模型

 # LLM 
 llm=ChatOpenAI(model_name="gpt-4-1106-preview", temperature=0, streaming=True)

 # Embedding Model
 embed_model=OpenAIEmbedding(
     model="text-embedding-3-small", embed_batch_size=100
 )

 # Set Llamaindex Configs
 Settings.llm=llm
 Settings.embed_model=embed_model

然后利用LlamaIndex的索引和检索功能为文档定义单独的查询引擎。

 #Building Indexes for each of the Documents
 try:
     storage_context=StorageContext.from_defaults(
         persist_dir="./storage/lyft"
     )
     lyft_index=load_index_from_storage(storage_context)

     storage_context=StorageContext.from_defaults(
         persist_dir="./storage/uber"
     )
     uber_index=load_index_from_storage(storage_context)

     index_loaded=True
     print("Index was already created. We just loaded it from the local storage.")

 except:

     index_loaded=False
     print("Index is not present. We need it to create it again.")

 ifnotindex_loaded:

     print("Creating Index..")

     # load data
     lyft_docs=SimpleDirectoryReader(
         input_files=["./data/10k/lyft_2021.pdf"]
     ).load_data()
     uber_docs=SimpleDirectoryReader(
         input_files=["./data/10k/uber_2021.pdf"]
     ).load_data()

     # build index
     lyft_index=VectorStoreIndex.from_documents(lyft_docs)
     uber_index=VectorStoreIndex.from_documents(uber_docs)

     # persist index
     lyft_index.storage_context.persist(persist_dir="./storage/lyft")
     uber_index.storage_context.persist(persist_dir="./storage/uber")

     index_loaded=True

 #Creating Query engines on top of the indexes
 lyft_engine=lyft_index.as_query_engine(similarity_top_k=3)
 uber_engine=uber_index.as_query_engine(similarity_top_k=3)

 print("LlamaIndex Query Engines created successfully.")

然后使用LlamaIndex的QueryEngineTool抽象类将查询引擎转换为工具,这些工具将稍后提供给LLM使用。

 #creating tools for each of our query engines
 query_engine_tools= [

     QueryEngineTool(
         query_engine=lyft_engine,
         metadata=ToolMetadata(
             name="lyft_10k",
             description=(
                 "Provides information about Lyft financials for year 2021. "
                 "Use a detailed plain text question as input to the tool."
             ),
         ),
     ),
     QueryEngineTool(
         query_engine=uber_engine,
         metadata=ToolMetadata(
             name="uber_10k",
             description=(
                 "Provides information about Uber financials for year 2021. "
                 "Use a detailed plain text question as input to the tool."
             ),
         ),
     ),
 ]

然后我们将LlamaIndex工具转换为与Langchain代理兼容的格式,这样就可以和Langchain 进行对接了。

 llamaindex_to_langchain_converted_tools= [t.to_langchain_tool() fortinquery_engine_tools]

除此以外我们还定义了一个附加的带有Web搜索功能的Langchain工具。这样可以进行页面搜索

 search=DuckDuckGoSearchRun()

 duckduckgo_tool=Tool(
         name='DuckDuckGoSearch',
         func=search.run,
         description='Use for when you need to perform an internet search to find information that another tool can not provide.'
 )   

 langchain_tools= [duckduckgo_tool]


 #Combine to create final list of tools
 tools=llamaindex_to_langchain_converted_tools+langchain_tools

下面就是Langchain的工作了,初始化调用代理。

 system_context="You are a stock market expert.\
 You will answer questions about Uber and Lyft companies as in the persona of a veteran stock market investor."

 prompt=ChatPromptTemplate.from_messages(
     [
         (
             "system",
             system_context,
         ),
         ("placeholder", "{chat_history}"),
         ("human", "{input}"),
         ("placeholder", "{agent_scratchpad}"),
     ]
 )

 # Construct the Tools agent
 agent=create_tool_calling_agent(llm, tools, prompt,)

 # Create an agent executor by passing in the agent and tools
 agent_executor=AgentExecutor(agent=agent, tools=tools, verbose=True, return_intermediate_steps=True, handle_parsing_errors=True, max_iterations=10)

然就就可以进行测试了。

测试1:

 question =  "What was Lyft's revenue growth in 2021?"

 response = agent_executor.invoke({"input": question})
 print("\nFinal Response:", response['output'])

代理正确地调用了lyft_10k查询引擎工具。

测试2:

 question =  "Is Uber profitable?"

 response = agent_executor.invoke({"input": question})
 print("\nFinal Response:", response['output'])

代理正确调用了uber_10k查询引擎工具。

测试3:

 question =  "List me the names of Uber's board of directors."

 response = agent_executor.invoke({"input": question})
 print("\nFinal Response:", response['output'])

我们这个信息超出了任何检索工具的范围,所以代理决定调用外部搜索工具,然后返回结果。

可以看到,我们的例子完美的结合了2者的优势,通过引入多个代理可以进一步提高系统的效率和精准度。每个代理可以专门处理同一领域内的不同文档子集,使得信息检索更为精细和专业。

我们可以设定一名代理来担任这些代理的协调者或主管。这名负责监控和调节各个代理的活动,确保信息流动的协调一致,并对整体查询过程进行优化。这种层次化的管理结构不仅优化了数据处理流程,也提高了响应速度和准确性,使得整个系统在处理复杂查询时更加高效和可靠。

通过这种方法,我们可以实现一个更加动态和适应性强的RAG系统,能够更好地满足不断变化的用户需求和应对多样化的信息挑战。希望本文能帮助你了解如何有效地整合LlamaIndex和LangChain,以构建一个高效、可扩展的代理RAG应用程序。
https://avoid.overfit.cn/post/f314677d41904595b953a6a3e7349705

相关实践学习
使用CLup和iSCSI共享盘快速体验PolarDB for PostgtreSQL
在Clup云管控平台中快速体验创建与管理在iSCSI共享盘上的PolarDB for PostgtreSQL。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
目录
相关文章
|
1月前
|
数据库
Langchain中改进RAG能力的3种常用的扩展查询方法
有多种方法可以提高检索增强生成(RAG)的能力,其中一种方法称为查询扩展。我们这里主要介绍在Langchain中常用的3种方法
306 0
|
1月前
|
弹性计算 自然语言处理 开发工具
基于阿里云向量检索 Milvus 版和 LangChain 快速构建 LLM 问答系统
本文介绍如何通过整合阿里云Milvus、阿里云DashScope Embedding模型与阿里云PAI(EAS)模型服务,构建一个由LLM(大型语言模型)驱动的问题解答应用,并着重演示了如何搭建基于这些技术的RAG对话系统。
|
1月前
|
人工智能 自然语言处理 API
深入浅出LangChain与智能Agent:构建下一代AI助手
LangChain为大型语言模型提供了一种全新的搭建和集成方式,通过这个强大的框架,我们可以将复杂的技术任务简化,让创意和创新更加易于实现。本文从LangChain是什么到LangChain的实际案例到智能体的快速发展做了全面的讲解。
280029 62
深入浅出LangChain与智能Agent:构建下一代AI助手
|
2天前
|
数据采集 分布式计算 大数据
森马基于MaxCompute+Hologres+DataWorks构建数据中台
本次案例主要分享森马集团面对多年自建的多套数仓产品体系,通过阿里云MaxCompute+Hologres+DataWorks统一数仓平台,保障数据生产稳定性与数据质量,减少ETL链路及计算时间,每年数仓整体费用从300多万降到180万。
|
7天前
|
人工智能 自然语言处理 API
深入浅出 LangChain 与智能 Agent:构建下一代 AI 助手
深入浅出 LangChain 与智能 Agent:构建下一代 AI 助手
|
1月前
|
存储 SQL 关系型数据库
【LLM】基于pvVevtor和LangChain构建RAG(检索增强)服务
【5月更文挑战第4天】基于pgVector和LangChain构建RAG检索增强服务
206 4
|
1月前
|
SQL 分布式计算 关系型数据库
云原生数据仓库产品使用合集之可以把ADB MySQL湖仓版数据库做成页面查询的数据库吗
阿里云AnalyticDB提供了全面的数据导入、查询分析、数据管理、运维监控等功能,并通过扩展功能支持与AI平台集成、跨地域复制与联邦查询等高级应用场景,为企业构建实时、高效、可扩展的数据仓库解决方案。以下是对AnalyticDB产品使用合集的概述,包括数据导入、查询分析、数据管理、运维监控、扩展功能等方面。
|
1月前
|
SQL 人工智能 自然语言处理
利用LangChain构建的智能数据库操作系统
LangChain库简化了数据库与AI结合,通过LLM将自然语言转为SQL语句进行查询和数据分析。它降低了数据查询的门槛,支持创建基于数据库的问答机器人和数据分析面板。实战案例展示了如何使用LangChain进行查询并以自然语言形式返回结果。通过限制表名,可处理大量数据。总结:掌握LangChain在数据库操作、查询及结果自然语言转换的应用。
59 0
|
1月前
|
人工智能 Oracle 关系型数据库
【AI Agent系列】【LangGraph】0. 快速上手:协同LangChain,LangGraph帮你用图结构轻松构建多智能体应用
【AI Agent系列】【LangGraph】0. 快速上手:协同LangChain,LangGraph帮你用图结构轻松构建多智能体应用
163 0
|
1月前
|
关系型数据库 专有云 MySQL
云数据仓库ADB问题之查询特慢如何解决
云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。