基于FC×RDS打造AI私人助理心得分享

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,100CU*H 3个月
交互式建模 PAI-DSW,每月250计算时 3个月
简介: 本次分享将教你如何基于ChatGLM6B大语言模型,搭建AI知识库问答应用,支持投喂PDF/TXT/HTML等文件、URL类型的资料,轻松定制一个你的私人AI助理。

一,领取试用

部署AI私人助理需要用到三个产品,分别是 RDS PostgreSQL Serverless函数计算FC文件存储NAS,可以点击连接前往立即试用。

image.png

开通RDS试用需要先进行相应角色权限的开通,如下:

image.png

点击对应的按钮“创建服务关联角色”便可实现创建。如下:

image.png

二、部署应用

产品试用开通成功后,就可以开始基于函数计算FC创建应用了。前往函数计算控制台。在左侧导航栏中,单击应用。如下:

image.png

应用页面,单击人工智能分类,选择AI大语言模型,单击立即创建。如下:

image.png

创建应用页面,部署类型选择直接部署。如下:

image.png

高级配置中,选择应用,这里选择pg-chatglm2-6b-webu,部署一个带向量数据库的私有知识问答应用。大语言模型选择chatglm2-6b-int4。如下:

image.png

首次部署应用,按照提示使用RAM角色ARN。完成授权。

完成配置后,单击创建并部署默认环境。如下:

image.png

部署大语言模型和向量数据库的相关应用需要函数计算、向量计算与存储由RDS PostgreSQL提供支持,勾选确认已经知道部署和使用中的收费项目,单击同意并继续部署。如下:

image.png

等待完成部署,直到部署状态显示部署成功,单击左侧箭头返回基本信息页面。如下:

image.png

在基本信息页面,单击访问域名,进入域名。如下:

image.png

复制并保存账号密码连接信息(该账号密码连接信息仅提示一次,再次登陆该页面不会再提示)以便下次登陆实验数据库进行体验。如下:

image.png

AI助手到这就完成部署了,接下来就可以体验AI智能助手,页面提供了LLM和LLM+RDS PostgreSQL(向量数据库)对比体验。如下:

image.png

支持导入自定义知识库文件后进行提问,感受基于LLM+向量数据库搭建个人AI助手的魅力。

  • 支持导入知识库文件,支持PDF、MD、TXT、HTML和 HTM格式文件。
  • 支持导入知识库URL。

以文件导入为例,支持上传和拖拽。如下:

image.png

以导入知识库URL为例,下面是杭州亚运会百度百科链接。

image.png

文件上传过程会进行embedding转化,请耐心等待。输入与文档相关的问题,对比区别(再次确认导入资料成功,否则无法展示相关答案)。如下:

image.png

问答30次之后,AI助手的初步体验就到此。以下步骤需要切换至个人数据库,开始使用您个人账号上的RDS PostgreSQL资源。单击右上角的已登录,切换至个人数据库。如下:

image.png

前往RDS管理控制台,创建账号及数据库信息。找到试用的RDS PostgreSQL实例,点击实例名进入实例详情页。如下

image.png

实例详情页,点击账号管理,单击创建账号,如下:

image.png

分别输入账号、类型、密码,点击确定。如下:

image.png

单击数据库管理,创建数据库并关联账号。如下:

image.png

输入数据库名称,并关联上面创建的账号。如下:

image.png

登录数据库对话框中,填写RDS PostgreSQL数据库的配置信息,如下:

image.png

数据库登录成功后,右上角变为数据库已登录状态,对话框按钮无剩余次数显示,右侧导入记录无文件数量限制。至此,您可以基于自己的数据库构建基于LLM的专属知识库。如下:

image.png

至此,一个基于FC×RDS打造的AI私人助理便完成部署了。接下来就可以开启无限体验之旅。

三、心得分享

在使用FC×RDS PostgreSQL的过程中,我发现它具有以下几个优点:

  1. 高性能:FC×RDS PostgreSQL采用了先进的计算和存储技术,可以快速处理大量的数据。这对于构建AI知识库问答应用来说非常重要,因为我们需要在短时间内为用户提供准确的答案。
  2. 易于使用:FC×RDS PostgreSQL提供了简单的API接口,使得我们可以轻松地将其集成到我们的应用中。此外,它还支持多种编程语言,如Python、Java等,这使得我们的开发工作变得更加便捷。
  3. 安全可靠:作为一个托管式的数据库服务,RDS为我们的数据提供了全方位的保护。它可以自动备份数据,确保我们的数据不会丢失。同时,它还提供了多种安全策略,如防火墙、访问控制等,以保护我们的数据免受未经授权的访问。
  4. 可扩展性:随着我们的应用不断发展,数据量也会不断增加。FC×RDS PostgreSQL具有很强的可扩展性,可以帮助我们轻松应对这种挑战。此外,它还支持多种部署方式,如单机、主备等,以满足我们不同的需求。

在体验应用中,我发现FC×RDS PostgreSQL可以帮助我们解决很多问题。例如,在我们的AI知识库问答应用中,用户可能会提出一些模糊的问题,如“这个产品适合什么年龄段的人群使用?”通过使用FC×RDS PostgreSQL,我们可以快速地找到与这个问题相关的信息,并将答案呈现给用户。这不仅可以提高用户的满意度,还可以降低我们的运营成本。

除了在问答应用中使用外,我还发现FC×RDS PostgreSQL在其他方面也有很多应用场景。例如,在推荐系统中,我们可以利用FC×RDS PostgreSQL对用户的兴趣进行模糊匹配,从而为他们推荐更符合他们需求的内容。在自然语言处理领域,FC×RDS PostgreSQL也可以帮助我们快速地处理大量的文本数据,从而提高我们的工作效率。

通过使用ChatGLM6B大语言模型搭建AI知识库问答应用,我深深地体会到了AI的魅力和潜力。虽然过程中遇到了一些挑战,但也收获了许多宝贵的经验和知识。我希望我的分享能对你有所帮助,也期待看到更多的AI应用在实际生活中的应用和发展。

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
目录
相关文章
|
1月前
|
人工智能 Java API
教你自创工作流,赋予AI助理个性化推荐超能力
本文详细介绍了使用Spring AI Alibaba构建AI助理的全过程,涵盖从基本流程设计到实际操作实现的各个方面。文章首先回顾了前期工作,包括旅游攻略、天气查询和个人待办事项等功能模块的设计与实现。接着,深入探讨了工作流的实现细节,如事件封装优化、工作流节点创建及复杂工作流的高效管理。最后,通过实际项目启动与运行测试,展示了AI助理的实际效果,验证了系统的稳定性和可扩展性。本文不仅适合Java开发者学习AI技术,也为后续的优化和功能拓展提供了宝贵的经验。
439 7
教你自创工作流,赋予AI助理个性化推荐超能力
|
27天前
|
人工智能 Java Serverless
阿里云函数计算助力AI大模型快速部署
随着人工智能技术的快速发展,AI大模型已经成为企业数字化转型的重要工具。然而,对于许多业务人员、开发者以及企业来说,探索和利用AI大模型仍然面临诸多挑战。业务人员可能缺乏编程技能,难以快速上手AI模型;开发者可能受限于GPU资源,无法高效构建和部署AI应用;企业则希望简化技术门槛,以更低的成本和更高的效率利用AI大模型。
114 12
|
3月前
|
人工智能 运维 大数据
体验记录——触手可及,函数计算玩转 AI 大模型
阿里云推出的“触手可及,函数计算玩转 AI 大模型”解决方案,通过按量付费、卓越弹性和快速交付能力,为企业提供了便捷的AI大模型部署途径。评测报告详细分析了该方案的实践原理、部署过程及优势,展示了其在高并发场景下的高效性和成本优势,并提出了改进建议。
45 0
|
3天前
|
人工智能 数据处理 C#
AI Dev Gallery:微软开源 Windows AI 模型本地运行工具包和示例库,助理开发者快速集成 AI 功能
微软推出的AI Dev Gallery,为Windows开发者提供开源AI工具包和示例库,支持本地运行AI模型,提升开发效率。
40 13
|
20天前
|
人工智能 数据库 自然语言处理
拥抱Data+AI|DMS+AnalyticDB助力钉钉AI助理,轻松玩转智能问数
「拥抱Data+AI」系列文章由阿里云瑶池数据库推出,基于真实客户案例,展示Data+AI行业解决方案。本文通过钉钉AI助理的实际应用,探讨如何利用阿里云Data+AI解决方案实现智能问数服务,使每个人都能拥有专属数据分析师,显著提升数据查询和分析效率。点击阅读详情。
拥抱Data+AI|DMS+AnalyticDB助力钉钉AI助理,轻松玩转智能问数
|
16天前
|
人工智能 Serverless API
尽享红利,Serverless构建企业AI应用方案与实践
本次课程由阿里云云原生架构师计缘分享,主题为“尽享红利,Serverless构建企业AI应用方案与实践”。课程分为四个部分:1) Serverless技术价值,介绍其发展趋势及优势;2) Serverless函数计算与AI的结合,探讨两者融合的应用场景;3) Serverless函数计算AIGC应用方案,展示具体的技术实现和客户案例;4) 业务初期如何降低使用门槛,提供新用户权益和免费资源。通过这些内容,帮助企业和开发者快速构建高效、低成本的AI应用。
60 12
|
1月前
|
人工智能 Serverless
解决方案 | 函数计算玩转 AI 大模型评测获奖名单公布!
解决方案 | 函数计算玩转 AI 大模型评测获奖名单公布!
|
2月前
|
人工智能 弹性计算 Serverless
触手可及,函数计算玩转 AI 大模型 | 简单几步,轻松实现AI绘图
本文介绍了零售业中“人—货—场”三要素的变化,指出传统营销方式已难以吸引消费者。现代消费者更注重个性化体验,因此需要提供超出预期的内容。文章还介绍了阿里云基于函数计算的AI大模型,特别是Stable Diffusion WebUI,帮助非专业人士轻松制作高质量的促销海报。通过详细的部署步骤和实践经验,展示了该方案在实际生产环境中的应用价值。
97 6
触手可及,函数计算玩转 AI 大模型 | 简单几步,轻松实现AI绘图
|
12天前
|
人工智能 运维 Devops
CAP:Serverless + AI 让应用开发更简单
对于众多开发者而言,Serverless 架构的核心优势在于其能够无缝集成多种云产品与组件,从而使得开发者可以更加专注于核心业务逻辑和创新。此外,Serverless 架构还提供了按量付费的灵活计费模式,进一步降低了资源成本。使用云应用开发平台 CAP,在 AI 领域,企业就可以专注于模型训练、算法优化等关键任务,让 AI 应用的开发、部署以及全生命周期的管理更加简单。可以预见 Serverless 技术将催生一系列创新且有趣的应用,而这些应用将不断拓展 AI 技术的边界。
|
2月前
|
人工智能 弹性计算 数据可视化
解决方案|触手可及,函数计算玩转 AI 大模型 评测
解决方案|触手可及,函数计算玩转 AI 大模型 评测
36 1

热门文章

最新文章