基于FC×RDS打造AI私人助理心得分享

本文涉及的产品
模型训练 PAI-DLC,5000CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,5000CU*H 3个月
简介: 本次分享将教你如何基于ChatGLM6B大语言模型,搭建AI知识库问答应用,支持投喂PDF/TXT/HTML等文件、URL类型的资料,轻松定制一个你的私人AI助理。

一,领取试用

部署AI私人助理需要用到三个产品,分别是 RDS PostgreSQL Serverless函数计算FC文件存储NAS,可以点击连接前往立即试用。

image.png

开通RDS试用需要先进行相应角色权限的开通,如下:

image.png

点击对应的按钮“创建服务关联角色”便可实现创建。如下:

image.png

二、部署应用

产品试用开通成功后,就可以开始基于函数计算FC创建应用了。前往函数计算控制台。在左侧导航栏中,单击应用。如下:

image.png

应用页面,单击人工智能分类,选择AI大语言模型,单击立即创建。如下:

image.png

创建应用页面,部署类型选择直接部署。如下:

image.png

高级配置中,选择应用,这里选择pg-chatglm2-6b-webu,部署一个带向量数据库的私有知识问答应用。大语言模型选择chatglm2-6b-int4。如下:

image.png

首次部署应用,按照提示使用RAM角色ARN。完成授权。

完成配置后,单击创建并部署默认环境。如下:

image.png

部署大语言模型和向量数据库的相关应用需要函数计算、向量计算与存储由RDS PostgreSQL提供支持,勾选确认已经知道部署和使用中的收费项目,单击同意并继续部署。如下:

image.png

等待完成部署,直到部署状态显示部署成功,单击左侧箭头返回基本信息页面。如下:

image.png

在基本信息页面,单击访问域名,进入域名。如下:

image.png

复制并保存账号密码连接信息(该账号密码连接信息仅提示一次,再次登陆该页面不会再提示)以便下次登陆实验数据库进行体验。如下:

image.png

AI助手到这就完成部署了,接下来就可以体验AI智能助手,页面提供了LLM和LLM+RDS PostgreSQL(向量数据库)对比体验。如下:

image.png

支持导入自定义知识库文件后进行提问,感受基于LLM+向量数据库搭建个人AI助手的魅力。

  • 支持导入知识库文件,支持PDF、MD、TXT、HTML和 HTM格式文件。
  • 支持导入知识库URL。

以文件导入为例,支持上传和拖拽。如下:

image.png

以导入知识库URL为例,下面是杭州亚运会百度百科链接。

image.png

文件上传过程会进行embedding转化,请耐心等待。输入与文档相关的问题,对比区别(再次确认导入资料成功,否则无法展示相关答案)。如下:

image.png

问答30次之后,AI助手的初步体验就到此。以下步骤需要切换至个人数据库,开始使用您个人账号上的RDS PostgreSQL资源。单击右上角的已登录,切换至个人数据库。如下:

image.png

前往RDS管理控制台,创建账号及数据库信息。找到试用的RDS PostgreSQL实例,点击实例名进入实例详情页。如下

image.png

实例详情页,点击账号管理,单击创建账号,如下:

image.png

分别输入账号、类型、密码,点击确定。如下:

image.png

单击数据库管理,创建数据库并关联账号。如下:

image.png

输入数据库名称,并关联上面创建的账号。如下:

image.png

登录数据库对话框中,填写RDS PostgreSQL数据库的配置信息,如下:

image.png

数据库登录成功后,右上角变为数据库已登录状态,对话框按钮无剩余次数显示,右侧导入记录无文件数量限制。至此,您可以基于自己的数据库构建基于LLM的专属知识库。如下:

image.png

至此,一个基于FC×RDS打造的AI私人助理便完成部署了。接下来就可以开启无限体验之旅。

三、心得分享

在使用FC×RDS PostgreSQL的过程中,我发现它具有以下几个优点:

  1. 高性能:FC×RDS PostgreSQL采用了先进的计算和存储技术,可以快速处理大量的数据。这对于构建AI知识库问答应用来说非常重要,因为我们需要在短时间内为用户提供准确的答案。
  2. 易于使用:FC×RDS PostgreSQL提供了简单的API接口,使得我们可以轻松地将其集成到我们的应用中。此外,它还支持多种编程语言,如Python、Java等,这使得我们的开发工作变得更加便捷。
  3. 安全可靠:作为一个托管式的数据库服务,RDS为我们的数据提供了全方位的保护。它可以自动备份数据,确保我们的数据不会丢失。同时,它还提供了多种安全策略,如防火墙、访问控制等,以保护我们的数据免受未经授权的访问。
  4. 可扩展性:随着我们的应用不断发展,数据量也会不断增加。FC×RDS PostgreSQL具有很强的可扩展性,可以帮助我们轻松应对这种挑战。此外,它还支持多种部署方式,如单机、主备等,以满足我们不同的需求。

在体验应用中,我发现FC×RDS PostgreSQL可以帮助我们解决很多问题。例如,在我们的AI知识库问答应用中,用户可能会提出一些模糊的问题,如“这个产品适合什么年龄段的人群使用?”通过使用FC×RDS PostgreSQL,我们可以快速地找到与这个问题相关的信息,并将答案呈现给用户。这不仅可以提高用户的满意度,还可以降低我们的运营成本。

除了在问答应用中使用外,我还发现FC×RDS PostgreSQL在其他方面也有很多应用场景。例如,在推荐系统中,我们可以利用FC×RDS PostgreSQL对用户的兴趣进行模糊匹配,从而为他们推荐更符合他们需求的内容。在自然语言处理领域,FC×RDS PostgreSQL也可以帮助我们快速地处理大量的文本数据,从而提高我们的工作效率。

通过使用ChatGLM6B大语言模型搭建AI知识库问答应用,我深深地体会到了AI的魅力和潜力。虽然过程中遇到了一些挑战,但也收获了许多宝贵的经验和知识。我希望我的分享能对你有所帮助,也期待看到更多的AI应用在实际生活中的应用和发展。

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
目录
相关文章
|
5天前
|
人工智能 Serverless
AI助理精准匹配------助力快速搭建Stable Difussion图像生成应用
【10月更文挑战第7天】过去在阿里云社区搭建Stable Diffusion图像生成应用需查阅在线实验室或官方文档,耗时且不便。现阿里云AI助理提供精准匹配服务,直接在首页询问AI助理即可获取详细部署步骤,简化了操作流程,提高了效率。用户可按AI助理提供的步骤快速完成应用创建、参数设置、应用部署及资源释放等操作,轻松体验Stable Diffusion图像生成功能。
|
3天前
|
人工智能 弹性计算 运维
触手可及,函数计算玩转 AI 大模型
《触手可及,函数计算玩转 AI 大模型》方案利用云函数计算简化AI大模型部署,实现快速响应和资源优化。本文从实践原理、部署体验、优势展示及应用场景四方面评估,指出其便捷性与成本效益,但也提到文档解释不足、跨平台支持需加强等问题,总体评价积极,认为是企业数字化转型的有效工具。
27 3
触手可及,函数计算玩转 AI 大模型
|
4天前
|
人工智能 弹性计算 运维
触手可及:阿里云函数计算助力AI大模型的评测
阿里云推出的面向AI服务器的功能计算(Functional Computing, FC),专为AI应用提供弹性计算资源。该服务支持无服务器部署、自动资源管理和多语言支持,极大简化了AI应用的开发和维护。本文全面评测了FC for AI Server的功能特性、使用体验和成本效益,展示了其在高效部署、成本控制和安全性方面的优势,并通过具体应用案例和改进建议,展望了其未来发展方向。
35 4
|
2天前
|
人工智能 弹性计算 自然语言处理
触手可及,函数计算玩转 AI 大模型
在AI技术迅速发展的背景下,大模型正推动各行业的智能化转型。企业为抓住机遇,纷纷部署AI大模型。阿里云函数计算凭借按量付费、高弹性和快速交付的特点,成为企业部署AI大模型的理想选择。本文介绍阿里云函数计算的技术解决方案,分析其优势,并通过具体应用场景评测其在AI大模型部署中的表现。
|
4天前
|
存储 消息中间件 人工智能
ApsaraMQ Serverless 能力再升级,事件驱动架构赋能 AI 应用
本文整理自2024年云栖大会阿里云智能集团高级技术专家金吉祥的演讲《ApsaraMQ Serverless 能力再升级,事件驱动架构赋能 AI 应用》。
|
6天前
|
人工智能
AI上云,AI助理 助您云上畅行 户外折叠椅等你来领
AI上云,AI助理 助您云上畅行 户外折叠椅等你来领
134 1
|
17天前
|
存储 人工智能 缓存
AI助理直击要害,从繁复中提炼精华——使用CDN加速访问OSS存储的图片
本案例介绍如何利用AI助理快速实现OSS存储的图片接入CDN,以加速图片访问。通过AI助理提炼关键操作步骤,避免在复杂文档中寻找解决方案。主要步骤包括开通CDN、添加加速域名、配置CNAME等。实测显示,接入CDN后图片加载时间显著缩短,验证了加速效果。此方法大幅提高了操作效率,降低了学习成本。
2615 8
|
17天前
|
存储 人工智能 Serverless
妙用AI助理帮您定方案、找细节
当您希望在繁琐的文档中迷失方向时,AI助理能为您提供清晰指引,助您轻松实现加速配置与获取核心代码参数,显著简化开发流程。无论是方案获取还是寻找细节,只需向AI助理提问,即可获得详细步骤与示例代码,大幅提升工作效率。点击右下角的AI助理,即刻体验便捷服务。
100 1
|
2天前
|
人工智能 弹性计算 Serverless
函数计算,如何跟AI大模型互动?
阿里云函数计算提供了部署AI大模型的详细实践指南,包括弹性伸缩和按量付费等优势。建议增加视频教程和专业术语解释,以帮助初学者更快上手。未来可进一步优化成本预测工具、性能测试及高级配置选项,提升用户体验。
11 0
|
3天前
|
人工智能 easyexcel
使用AI助理很方便的指导使用EasyExcel生成文件
使用AI助理很方便的指导使用EasyExcel生成文件
6 0