如何用MongoDB Atlas和大语言模型,高效构建企业级AI应用?

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 利用生成式 AI 强化应用程序为客户打造令人叹服、真正差异化的体验意味着将人工智能建立在事实的基础之上

利用生成式 AI 强化应用程序为客户打造令人叹服、真正差异化的体验意味着将人工智能建立在事实的基础之上。这种事实来自于您的数据,更具体地说,来自于您最新的操作数据。

无论您是提供具有高级语义搜索的高度个性化体验,还是生成用户提示的内容和对话,MongoDB Atlas 都可以统一操作、分析和向量搜索数据服务,以简化将大语言模型 (LLM) 和转换器模型的强大功能嵌入到您的应用程序中。

开发者每天都在构建下一代具有突破性和变革性的采用生成式 AI 技术的应用程序。商业 LLM 和开源 LLM 正在以惊人的速度发展。围绕它们构建的框架和工具数不胜数,创新也变得大众化了。然而,开发团队必须跨越鸿沟,将这些应用程序从原型转变为企业就绪。

首先,这些大型模型提供的答案可能不正确或信息依据不足,因为它们访问的数据过时了。解决答案信息依据不足的问题有两种方法:优化大型模型或为其提供长期记忆。但是,这样做会产生第二个障碍,在采取了正确的安全控制措施的情况下,以用户期望的规模和性能围绕有信息依据的 LLM 部署应用程序。

开发者需要使用具有灵活数据模型的数据平台,以适应不断变化的非结构化和结构化数据,以便为大型模型提供信息,而不会受限于僵化的模式。

虽然优化模型是一种方法,但在时间和计算资源方面成本过高。这意味着开发者需要能够将数据作为提示的上下文呈现给大型模型。他们需要为这些生成式模型提供长期记忆。

下面我们将讨论一些示例,说明如何使用各种 LLM 和生成式 AI 框架实现这一点。

点击链接查看我们的 AI 资源页面,详细了解有关使用 MongoDB 构建采用 AI 技术的应用。

开始使用 MongoDB Atlas和大语言模型的五个资源

MongoDB Atlas 可以无缝集成领先的生成式 AI 服务和系统,如超大规模服务提供商和开源 LLM 及框架。通过 Atlas 数据库和 Atlas Vector Search将文档和向量嵌入数据存储结合使用,开发者可以加速构建基于真实操作数据的生成式 AI 强化应用程序。

以下是如何使用热门的 LLM 框架和 MongoDB 的示例:

开始使用Atlas Vector Search 和 OpenAI 进行语义搜索

本教程将引导您完成使用 MongoDB Atlas 对示例电影数据集执行语义搜索的步骤。首先,您将设置 Atlas Trigger,以便在将新文档插入集群时调用 OpenAI API,从而将其转换为向量嵌入。然后,您将使用 Atlas Vector Search 执行向量搜索查询。甚至还有一个特殊的奖励部分:利用 HuggingFace 模型。
image.png

阅读教程:https://www.mongodb.com/developer/products/atlas/semantic-search-mongodb-atlas-vector-search/

借助Llamalndex和MongoDB,使用您的专有数据构建生成式 AI 强化聊天应用

LlamaIndex 提供的简单而灵活的接口可以连接 LLM 与外部数据。这篇由 LlamaIndex 和 MongoDB 联合撰写的博客详细介绍了为什么以及如何构建自己的聊天应用。博客中附带的 notebook 提供了有关如何使用英语语言查询来查询任何 PDF 文档的代码演练。
image.png

阅读博客:https://medium.com/llamaindex-blog/build-a-chatgpt-with-your-private-data-using-llamaindex-and-mongodb-b09850eb154c

了解如何将 Atlas Vector Search 用作 LangChain 的向量存储

正如合作伙伴关系公告博客文章中所述,LangChain 和 MongoDB Atlas 实属天作之合,有机社区所表现出的热情证明了这一点,促成了 LangChain 中针对 MongoDB 的多次集成。除了现在支持 Atlas Vector Search 作为向量存储之外,还已经支持将 MongoDB 用作聊天日志历史记录。
image.png

网址阅读博客:https://js.langchain.com/docs/integrations/vectorstores/mongodb_atlas/

使用 MindsDB AI 集合直接在 MongoDB Atlas 中生成预测

MindsDB 是一个开源机器学习平台,它将自动机器学习引入数据库中。在此博客中,您将使用 MindsDB AI 集合直接在 Atlas 中生成预测,这样您就能够将预测数据用作常规数据来消费使用,查询这些预测数据,并通过简化部署工作流程来加快开发速度。

通过Atlas Triggers 将 HuggingFace 转换器模型集成到 MongoDB Atlas 中

HuggingFace 是一个 AI 社区,可以轻松构建、训练和部署机器学习模型。利用 Atlas Triggers 以及 HuggingFace,您可以轻松地应对操作数据的变化,这些数据为您的模型提供了长期记忆。了解如何设置 Triggers 以自动预测 MongoDB 数据库中新文档的情感信息,并将其作为附加字段添加到您的文档中。
image.png

阅读博客:https://github.com/philschmid/huggingface-mongodb-example

示例应用架构显示了外部或专有数据如何为 LLM 提供长期记忆,以及数据如何从用户的输入流向由 LLM 提供支持的响应。

使用 MongoDB 为生成式 AI 强化应用实现从原型到生产

MongoDB 基于 Atlas 构建的开发者数据平台可提供经过优化的现代化开发者体验,同时也经过全球数千家企业的实战测试,能够大规模、安全地运行。

无论您是在初创公司还是企业中构建下一个重大应用,Atlas 都可以让您:

● 加快构建基于真实的操作数据事实的生成式 AI 强化应用程序。
● 通过使用单个平台简化您的应用架构,该平台支持将应用和向量数据存储在同一位置,使用无服务器功能应对源数据的变化,并在多种数据模式中进行搜索,从而提高应用生成的响应的相关性和准确性。
● 凭借文档模型的灵活性,轻松开发生成式 AI 强化应用,同时维持简单、优质的开发者体验。
● 无缝集成领先的 AI 服务和系统(如超大规模服务提供商和开源 LLM 及框架),以在动态市场中保持竞争力。
● 在高性能、高度可扩展的操作数据库上构建生成式 AI 强化应用程序,该数据库在各种 AI 用例中经过了十年的验证。

虽然以上示例是构建更创新的应用所需的构建基块,但 MongoDB 可以帮助您实现从概念到生产再到扩展。

扫码加入钉群,与MongoDB专家一对一沟通,了解更多阿里云MongoDB产品与方案,市场活动及线上培训等内容。
4D23CF4C-EABF-40B3-80BE-5E4EDE071C42.png

相关文章
|
29天前
|
人工智能 测试技术 API
构建AI智能体:二、DeepSeek的Ollama部署FastAPI封装调用
本文介绍如何通过Ollama本地部署DeepSeek大模型,结合FastAPI实现API接口调用。涵盖Ollama安装、路径迁移、模型下载运行及REST API封装全过程,助力快速构建可扩展的AI应用服务。
498 6
|
29天前
|
人工智能 API 开发工具
构建AI智能体:一、初识AI大模型与API调用
本文介绍大模型基础知识及API调用方法,涵盖阿里云百炼平台密钥申请、DashScope SDK使用、Python调用示例(如文本情感分析、图像文字识别),助力开发者快速上手大模型应用开发。
894 16
构建AI智能体:一、初识AI大模型与API调用
|
28天前
|
存储 机器学习/深度学习 人工智能
构建AI智能体:三、Prompt提示词工程:几句话让AI秒懂你心
本文深入浅出地讲解Prompt原理及其与大模型的关系,系统介绍Prompt的核心要素、编写原则与应用场景,帮助用户通过精准指令提升AI交互效率,释放大模型潜能。
354 5
|
29天前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
383 29
|
1月前
|
消息中间件 人工智能 安全
云原生进化论:加速构建 AI 应用
本文将和大家分享过去一年在支持企业构建 AI 应用过程的一些实践和思考。
434 27
|
2月前
|
人工智能 安全 中间件
阿里云 AI 中间件重磅发布,打通 AI 应用落地“最后一公里”
9 月 26 日,2025 云栖大会 AI 中间件:AI 时代的中间件技术演进与创新实践论坛上,阿里云智能集团资深技术专家林清山发表主题演讲《未来已来:下一代 AI 中间件重磅发布,解锁 AI 应用架构新范式》,重磅发布阿里云 AI 中间件,提供面向分布式多 Agent 架构的基座,包括:AgentScope-Java(兼容 Spring AI Alibaba 生态),AI MQ(基于Apache RocketMQ 的 AI 能力升级),AI 网关 Higress,AI 注册与配置中心 Nacos,以及覆盖模型与算力的 AI 可观测体系。
737 38
|
1月前
|
设计模式 人工智能 自然语言处理
3个月圈粉百万,这个AI应用在海外火了
不知道大家还记不记得,我之前推荐过一个叫 Agnes 的 AI 应用,也是当时在 WAIC 了解到的。
290 1
|
1月前
|
消息中间件 人工智能 安全
构建企业级 AI 应用:为什么我们需要 AI 中间件?
阿里云发布AI中间件,涵盖AgentScope-Java、AI MQ、Higress、Nacos及可观测体系,全面开源核心技术,助力企业构建分布式多Agent架构,推动AI原生应用规模化落地。
212 0
构建企业级 AI 应用:为什么我们需要 AI 中间件?
|
1月前
|
人工智能 算法 Java
Java与AI驱动区块链:构建智能合约与去中心化AI应用
区块链技术和人工智能的融合正在开创去中心化智能应用的新纪元。本文深入探讨如何使用Java构建AI驱动的区块链应用,涵盖智能合约开发、去中心化AI模型训练与推理、数据隐私保护以及通证经济激励等核心主题。我们将完整展示从区块链基础集成、智能合约编写、AI模型上链到去中心化应用(DApp)开发的全流程,为构建下一代可信、透明的智能去中心化系统提供完整技术方案。
220 3

推荐镜像

更多