你好，我是 三桥君
一、引言
在当今的数字化时代，AI智能体已经深入到我们生活的方方面面。比如智能客服、智能助手，还是智能知识库，这些AI应用都在为你提供便捷的服务。然而，你是否曾好奇过，当你向这些AI智能体提出请求时，从你点击发送按钮的那一刻起，到系统返回一段完整的回答，中间究竟发生了什么？
本文三桥君将带你从一张核心架构图出发，深入解析AI智能体从接收到响应的全流程，揭开其背后的技术奥秘。
二、用户请求的启动仪式
| 阶段 |
详情 |
| 用户输入 |
当你在使用AI智能体时，首先需要输入你的请求。这个请求通常包含一些关键参数，如user_input（用户输入内容）、require_id（请求ID）、session_id（会话ID）等。这些参数不仅帮助系统识别你的请求，还为后续的处理流程提供了必要的信息。 |
| 数据包传输 |
一旦你提交了请求，这些数据会被打包成一个数据包，并送往“接入服务”模块。这个模块是整个流程的起点，它负责验证请求的合法性，并确保数据能够顺利进入后续的处理环节。 |
三、接入服务：守门员与路线分发者
| 方面 |
详情 |
| 功能概述 |
接入服务模块在整个流程中扮演着“守门员”的角色。它的主要功能包括验证请求参数、打通处理链路、记录日志等。通过这些操作，接入服务确保了请求的合法性与可追踪性，为后续的处理流程奠定了坚实的基础。 |
| 关键作用 |
接入服务模块的重要性不言而喻。它不仅负责验证请求的合法性，还确保每个请求都能够被正确地分发到后续的处理模块。这种“路线分发者”的角色，使得整个处理流程能够高效、有序地进行。 |
四、智能体应用：大脑开始运作
| 方面 |
详情 |
| 核心模块 |
在接入服务模块完成其任务后，请求数据会被传递到“智能体应用”模块。这个模块是AI智能体的核心，它由多个组件协同运作，负责理解用户意图，并生成相应的响应。 |
| 问句向量化 |
在智能体应用模块中，用户输入的内容首先会被转化为语义向量。这一过程通常通过嵌入模型（Embedding Model）来完成。语义向量不仅能够捕捉用户输入的语义信息，还为后续的知识检索与处理提供了“燃料”。 |
五、知识召唤术：从数据库中找出最懂它的碎片
| 方面 |
详情 |
| 向量数据库检索 |
在用户输入被转化为语义向量后，智能体应用模块会将这些向量送入向量数据库进行检索。向量数据库是一种专门用于存储和检索高维向量的数据库，它能够快速找到与用户输入最相关的知识片段。 |
| 输出结果 |
经过向量数据库的检索，系统会输出Top K Relevant Chunks，即与用户输入最相关的K个知识片段。这些知识片段通常以文本的形式存在，它们为用户请求的解答提供了丰富的背景信息。 |
六、重排模型：从相似到相关，从相关到关键
| 方面 |
详情 |
| 二次打分 |
虽然向量数据库已经筛选出了最相关的知识片段，但这些片段的质量和相关性可能仍然存在差异。为了进一步提高结果的精准度，系统会使用重排模型（Reranking Model）对这些知识片段进行二次打分。 |
| 最终Prompt |
重排模型会根据知识片段与用户输入的相关性，对其进行重新排序。最终，系统会将这些重排后的内容与用户输入一起，作为LLM（大语言模型）的“燃料”，生成最终的响应。 |
七、第一次LLM调用：你需要我回答，还是去执行？
| 方面 |
详情 |
| LLM的作用 |
在获取了重排后的知识片段后，系统会将这些信息送入LLM进行处理。LLM的主要作用是分析用户意图，并决定是直接生成回答，还是调用外部工具执行任务。 |
| 决策流程 |
LLM会根据用户输入和相关知识片段，进行深度分析。如果用户请求的是简单的信息查询，LLM会直接生成回答；如果用户请求的是复杂的任务执行，LLM则会生成工具调用指令，并启动相应的工具执行流程。 |
八、工具调用与执行
| 方面 |
详情 |
| 工具选择 |
根据LLM的决策，系统会选择相应的工具来执行任务。这些工具可以是内部的API，也可以是外部的服务接口。工具的选择通常基于用户请求的具体内容和系统的可用资源。 |
| 任务执行 |
一旦工具被选定，系统会启动工具的执行流程。工具会根据用户请求的具体内容，执行相应的任务，并返回执行结果。这些结果通常以数据的形式存在，它们为用户请求的解答提供了具体的支持。 |
九、结果整合与响应生成
| 方面 |
详情 |
| 结果整合 |
在工具执行完成后，系统会将工具返回的结果与用户输入进行整合。这一过程通常由LLM来完成，LLM会根据工具执行结果和用户输入，生成最终的响应内容。 |
| 响应展示 |
最终，系统会将生成的响应内容展示给你。这一过程通常通过用户界面（UI）来完成，你可以在界面上看到系统的回答，并继续进行后续的交互。 |
十、总结
通过以上的流程解析，你可以看到，AI智能体从接收到响应的全流程涉及多个模块的协同运作。
从用户请求的启动，到接入服务的验证，再到智能体应用的处理，每一步都至关重要。理解这一流程，不仅有助于你更好地使用AI智能体，还能为优化其性能提供宝贵的参考。
欢迎关注✨三桥君✨获取更多AI产品经理与AI工具的分享，帮你入门AI领域，希望你为行业做出更大贡献👏👏👏读到这里，若文章对你有所启发，欢迎点赞、收藏、转发、赞赏👍👍👍
