AI知识库这事儿FastGPT是专业的

本文涉及的产品
阿里云百炼推荐规格 ADB PostgreSQL,4核16GB 100GB 1个月
简介: 在搭建AI知识库这事儿上,有不少成熟的框架,我推荐使用FastGPT。这篇文章笔者就使用过的两款平台做个比较,FastGPT和百度千帆平台。

在搭建AI知识库这事儿上,有不少成熟的框架,我推荐使用FastGPT。这篇文章笔者就使用过的两款平台做个比较,FastGPT和百度千帆平台。

1. 为什么要搭建知识库

随着企业的运营,企业的私有数据越来越多(结构化、半结构化、非结构化的数据)。这么多数据,我们不可能都记在大脑里,就算老员工能记住,那对于一个新人来说如何快速上手呢?

所以搭建知识库就成了刚需。得益于LLM(大模型)的发展,让AI可以更好的理解自然语言,再加上向量数据库的检索,让许多沉睡的知识可以被唤醒。

企业可以通过搭建知识库提高工作效率,提升服务质量,还可以基于知识做出更好的决策。

2. 技术方案

2.1. 我推荐的方案

LLM存在幻觉问题,对于它不知道的知识会胡编乱造,可靠性差。所以在搭建知识库的技术方案上,一般有2个争论:

  1. 企业自己微调大模型。
  2. 使用RAG检索增强技术。

微调大模型,就是将已有的知识喂给LLM,让LLM学习。暂不说这种方式的安全性如何。单单从模型迭代的角度来看就不合适。

不管是部署开源模型 还是 采用闭源模型,随着时间的推移,模型的迭代非常快,模型会越来越聪明。模型每14天都会小迭代一次。迭代之后,之前投喂的数据会失效,而且之前做过的优化,会随着模型能力变强后,会变成无用功。

所以,我更推荐RAG技术。检索增强生成(Retrieval Augmented Generation,RAG)是一种强大的工具,它可以将企业的私有知识 通过LLM + 外接向量数据库的方式整合到一起。

2.2. 常规步骤

技术方案选定后,我们常规的搭建知识库的步骤如下:

文档加载 → 文档分割 → 文档嵌入 → 向量化存储 → 文档检索 → 生成回答

2.3. 两个主角

方案和步骤有了,下面看看选哪种框架。业内用LLM做知识库的方案较多,比如FastGPT、Dify、自己基于LangChain开发、百度的千帆平台等等。

本篇主要介绍FastGPT和 百度千帆平台。基于LangChain开发的方案之前的文章也介绍过,感兴趣的朋友自行翻阅之前的文章。

  • 百度千帆平台是百度推出的基于大模型的一站式应用解决方案平台,提供先进的生成式AI生产及应用全流程开发工具链。主打一个一站式。百度深耕AI多年,也是国内最早推出一站式平台的,整体还算方便。

  • FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!主打一个知识库问答。

下面就两个主角在知识库问答领域的效果做个比较

3. 使用比较

3.1. 操作界面

操作界面上都差不过,从首页,到上传文件到知识库,再到创建AI应用,操作都很简便。

我个人更喜欢FastGPT的页面风格,页面比较清爽,很明显地看到 知识库、创建大模型应用 这2个版块。

FastGPT

首页

创建知识库,将处理好的本地文档、网页、QA问答上传,然后利用词嵌入模型处理,再存入向量数据库。

创建AI应用

百度千帆

首页:

创建知识库,将处理好的本地文档、网页、QA问答上传,然后利用词嵌入模型处理,再存入向量数据库。

创建AI应用

3.2. 可选词嵌入模型

在文档嵌入这一步,需要选择词嵌入模型。FastGPT可以选择适合自己的模型,但是百度千帆没有选择项,只能用百度的模型。

FastGPT

3.3. 可选问答模型

在AI回答这一步,也需要用到大模型。FastGPT可以选择适合自己的模型,但是百度千帆没有选择项,只能用百度的模型。

FastGPT

百度千帆

3.4. 可以发布到的渠道

发布渠道这一局,算百度完胜了!百度千帆集成了多个发布渠道,使用感受较好。FastGPT相对来说就有点少了,而且还需要额外的搭建和部署。

FastGPT

百度千帆

3.5. 最终的回答效果和体验

他俩在正常的问答结果上都差不多,这个结果跟选择的词嵌入模型和问答模型有关。但是在使用的体验上,我有几点要吐槽:

  • FastGPT的对话框,历史对话消息不会丢失。但百度千帆的对话框刷新下,历史对话会丢失,这个体验感有点差。
  • 百度千帆的对话界面,不知道为什么非要突出老大一个图标和应用标题,几乎占了小半屏,导致对话内容的可见区域被压缩,此处我要@下百度的产品经理,请问你这么设计的目的是啥?

  • 对比看下FastGPT就很简洁,对话区域也很大,用起来比较舒适。

  • 百度千帆分享出去的网页必须要登录,这个有点恶心,没必要在这里强行拉一波注册吧。而FastGPT分享的网页免登即可使用。

3.6. 源码开放

FastGPT

FastGPT源码开放,可以自己搭建,模型也可以自己搭配。对于企业内部使用非常友好。

自行搭建的话,需要开发者介入。不过FastGPT也有云上的SaaS版本,按需付费使用,无需开发者介入。

百度千帆

百度千帆是百度的闭源产品,模型也是闭源,而且模型只能用百度。这个对于企业内部使用不友好。

无需开发者介入,稍微懂些产品,看下文档,即可使用。

3.7. 数据安全

如果从数据安全方面考虑,只能选择FastGPT了,所有的数据都可以存储在企业自己的服务器上。

4. 方案总结

总之,没有最优的方案,只有最合适的方案。

大部分场景下FastGPT都是比较胜任的。如果只考虑以最小代价快速实现一个知识库问答,我推荐使用百度千帆平台。其余情况,我推荐使用FastGPT。

在操作界面上、词嵌入模型上、问答模型上、对话体验和数据安全上,我觉得FastGPT都是很专业的。FastGPT的发力点就是在构建专业的知识库领域。

=====>>>>>> 关于我 <<<<<<=====

本篇完结!欢迎点赞 关注 收藏!!!

原文链接:https://mp.weixin.qq.com/s/D2s2Y0sndjc8oDA3ce1QRg

相关实践学习
阿里云百炼xAnalyticDB PostgreSQL构建AIGC应用
通过该实验体验在阿里云百炼中构建企业专属知识库构建及应用全流程。同时体验使用ADB-PG向量检索引擎提供专属安全存储,保障企业数据隐私安全。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
相关文章
|
1天前
|
机器学习/深度学习 数据采集 人工智能
文档智能 & RAG 让AI大模型更懂业务 —— 阿里云LLM知识库解决方案评测
随着数字化转型的深入,企业对文档管理和知识提取的需求日益增长。阿里云推出的文档智能 & RAG(Retrieval-Augmented Generation)解决方案,通过高效的内容清洗、向量化处理、精准的问答召回和灵活的Prompt设计,帮助企业构建强大的LLM知识库,显著提升企业级文档管理的效率和准确性。
|
1月前
|
人工智能 JSON 数据格式
RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
【9月更文挑战第6天】RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
|
3月前
|
人工智能 前端开发 API
RAG+AI工作流+Agent:LLM框架该如何选择,全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
【7月更文挑战第9天】RAG+AI工作流+Agent:LLM框架该如何选择,全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
RAG+AI工作流+Agent:LLM框架该如何选择,全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
手把手带你5分钟搭建企业级AI问答知识库
【8月更文挑战第3天】手把手带你5分钟搭建企业级AI问答知识库
274 3
|
2月前
|
机器学习/深度学习 人工智能 分布式计算
5分钟搭建企业级AI问答知识库
【8月更文挑战第14天】5分钟搭建企业级AI问答知识库
|
3月前
|
存储 人工智能 自然语言处理
打造专业高效的AI客服:从基础准备到深度训练的全面指南
【7月更文第14天】在数字化转型的浪潮中,人工智能客服(AI Customer Service)已成为提升企业服务质量和效率的关键。一个训练有素的AI客服不仅能提供24/7不间断服务,还能精准理解客户需求,有效提升客户满意度。本文将深入探讨如何构建这样一个系统,包括必备的硬性条件、训练流程及成本考量,辅以实际代码示例,为您的企业开启智能客服新时代。
1223 1
|
4月前
|
人工智能 自然语言处理 监控
AI大模型智能体工作流涉及使用Ollama和FastGPT这两个工具
AI大模型智能体工作流涉及使用Ollama和FastGPT这两个工具
547 4
|
4天前
|
人工智能 Serverless
AI助理精准匹配------助力快速搭建Stable Difussion图像生成应用
【10月更文挑战第7天】过去在阿里云社区搭建Stable Diffusion图像生成应用需查阅在线实验室或官方文档,耗时且不便。现阿里云AI助理提供精准匹配服务,直接在首页询问AI助理即可获取详细部署步骤,简化了操作流程,提高了效率。用户可按AI助理提供的步骤快速完成应用创建、参数设置、应用部署及资源释放等操作,轻松体验Stable Diffusion图像生成功能。
|
5天前
|
传感器 机器学习/深度学习 人工智能
AI在智能制造中的革新应用与未来展望
【10月更文挑战第10天】AI在智能制造中的革新应用与未来展望
|
6天前
|
机器学习/深度学习 人工智能 自然语言处理
探索未来:AI技术的发展与应用
【10月更文挑战第9天】探索未来:AI技术的发展与应用
28 2

热门文章

最新文章