基于FC×RDS打造AI私人助理心得分享

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,高可用版 2核4GB 50GB
RDS PostgreSQL Serverless,0.5-4RCU 50GB 3个月
推荐场景:
对影评进行热评分析
简介: 本次分享将教你如何基于ChatGLM6B大语言模型,搭建AI知识库问答应用,支持投喂PDF/TXT/HTML等文件、URL类型的资料,轻松定制一个你的私人AI助理。

一,领取试用

部署AI私人助理需要用到三个产品,分别是 RDS PostgreSQL Serverless函数计算FC文件存储NAS,可以点击连接前往立即试用。
image.png
开通RDS试用需要先进行相应角色权限的开通,如下:
image.png
点击对应的按钮“创建服务关联角色”便可实现创建。如下:
image.png

二、部署应用

产品试用开通成功后,就可以开始基于函数计算FC创建应用了。前往函数计算控制台。在左侧导航栏中,单击应用。如下:
image.png
应用页面,单击人工智能分类,选择AI大语言模型,单击立即创建。如下:
image.png
创建应用页面,部署类型选择直接部署。如下:
image.png
高级配置中,选择应用,这里选择pg-chatglm2-6b-webu,部署一个带向量数据库的私有知识问答应用。大语言模型选择chatglm2-6b-int4。如下:
image.png
首次部署应用,按照提示使用RAM角色ARN。完成授权。

完成配置后,单击创建并部署默认环境。如下:
image.png
部署大语言模型和向量数据库的相关应用需要函数计算、向量计算与存储由RDS PostgreSQL提供支持,勾选确认已经知道部署和使用中的收费项目,单击同意并继续部署。如下:
image.png
等待完成部署,直到部署状态显示部署成功,单击左侧箭头返回基本信息页面。如下:
image.png
在基本信息页面,单击访问域名,进入域名。如下:
image.png
复制并保存账号密码连接信息(该账号密码连接信息仅提示一次,再次登陆该页面不会再提示)以便下次登陆实验数据库进行体验。如下:
image.png
AI助手到这就完成部署了,接下来就可以体验AI智能助手,页面提供了LLM和LLM+RDS PostgreSQL(向量数据库)对比体验。如下:
image.png
支持导入自定义知识库文件后进行提问,感受基于LLM+向量数据库搭建个人AI助手的魅力。

  • 支持导入知识库文件,支持PDF、MD、TXT、HTML和 HTM格式文件。
  • 支持导入知识库URL。

以文件导入为例,支持上传和拖拽。如下:
image.png
以导入知识库URL为例,下面是杭州亚运会百度百科链接。
image.png
文件上传过程会进行embedding转化,请耐心等待。输入与文档相关的问题,对比区别(再次确认导入资料成功,否则无法展示相关答案)。如下:
image.png
问答30次之后,AI助手的初步体验就到此。以下步骤需要切换至个人数据库,开始使用您个人账号上的RDS PostgreSQL资源。单击右上角的已登录,切换至个人数据库。如下:
image.png
前往RDS管理控制台,创建账号及数据库信息。找到试用的RDS PostgreSQL实例,点击实例名进入实例详情页。如下
image.png
实例详情页,点击账号管理,单击创建账号,如下:
image.png
分别输入账号、类型、密码,点击确定。如下:
image.png
单击数据库管理,创建数据库并关联账号。如下:
image.png
输入数据库名称,并关联上面创建的账号。如下:
image.png
登录数据库对话框中,填写RDS PostgreSQL数据库的配置信息,如下:
image.png
数据库登录成功后,右上角变为数据库已登录状态,对话框按钮无剩余次数显示,右侧导入记录无文件数量限制。至此,您可以基于自己的数据库构建基于LLM的专属知识库。如下:
image.png
至此,一个基于FC×RDS打造的AI私人助理便完成部署了。接下来就可以开启无限体验之旅。

三、心得分享

在使用FC×RDS PostgreSQL的过程中,我发现它具有以下几个优点:

  1. 高性能:FC×RDS PostgreSQL采用了先进的计算和存储技术,可以快速处理大量的数据。这对于构建AI知识库问答应用来说非常重要,因为我们需要在短时间内为用户提供准确的答案。
  2. 易于使用:FC×RDS PostgreSQL提供了简单的API接口,使得我们可以轻松地将其集成到我们的应用中。此外,它还支持多种编程语言,如Python、Java等,这使得我们的开发工作变得更加便捷。
  3. 安全可靠:作为一个托管式的数据库服务,RDS为我们的数据提供了全方位的保护。它可以自动备份数据,确保我们的数据不会丢失。同时,它还提供了多种安全策略,如防火墙、访问控制等,以保护我们的数据免受未经授权的访问。
  4. 可扩展性:随着我们的应用不断发展,数据量也会不断增加。FC×RDS PostgreSQL具有很强的可扩展性,可以帮助我们轻松应对这种挑战。此外,它还支持多种部署方式,如单机、主备等,以满足我们不同的需求。

在体验应用中,我发现FC×RDS PostgreSQL可以帮助我们解决很多问题。例如,在我们的AI知识库问答应用中,用户可能会提出一些模糊的问题,如“这个产品适合什么年龄段的人群使用?”通过使用FC×RDS PostgreSQL,我们可以快速地找到与这个问题相关的信息,并将答案呈现给用户。这不仅可以提高用户的满意度,还可以降低我们的运营成本。

除了在问答应用中使用外,我还发现FC×RDS PostgreSQL在其他方面也有很多应用场景。例如,在推荐系统中,我们可以利用FC×RDS PostgreSQL对用户的兴趣进行模糊匹配,从而为他们推荐更符合他们需求的内容。在自然语言处理领域,FC×RDS PostgreSQL也可以帮助我们快速地处理大量的文本数据,从而提高我们的工作效率。

通过使用ChatGLM6B大语言模型搭建AI知识库问答应用,我深深地体会到了AI的魅力和潜力。虽然过程中遇到了一些挑战,但也收获了许多宝贵的经验和知识。我希望我的分享能对你有所帮助,也期待看到更多的AI应用在实际生活中的应用和发展。

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
目录
相关文章
|
20天前
|
人工智能 关系型数据库 MySQL
基于阿里云的PolarDB MySQL版实现AI增强数据管理
本文将介绍如何利用阿里云的PolarDB MySQL版结合AI技术,实现数据管理的自动化和智能化。
119 0
|
24天前
|
人工智能 Serverless 开发者
|
14天前
|
存储 SQL 人工智能
AnalyticDB for MySQL:AI时代实时数据分析的最佳选择
阿里云云原生数据仓库AnalyticDB MySQL(ADB-M)与被OpenAI收购的实时分析数据库Rockset对比,两者在架构设计上有诸多相似点,例如存算分离、实时写入等,但ADB-M在多个方面展现出了更为成熟和先进的特性。ADB-M支持更丰富的弹性能力、强一致实时数据读写、全面的索引类型、高吞吐写入、完备的DML和Online DDL操作、智能的数据生命周期管理。在向量检索与分析上,ADB-M提供更高检索精度。ADB-M设计原理包括分布式表、基于Raft协议的同步层、支持DML和DDL的引擎层、高性能低成本的持久化层,这些共同确保了ADB-M在AI时代作为实时数据仓库的高性能与高性价比
|
21天前
|
人工智能 前端开发 搜索推荐
详解基于百炼平台及函数计算快速上线网页AI助手
通过阿里云百炼平台,企业可在10分钟内为其网站添加智能客服系统,提升用户体验并降低成本。流程包括:创建大模型应用、配置参数(如温度系数以控制回复的随机性)、发布应用获取API密钥;使用函数计算快速搭建示例网站,并通过简单的代码更改启用AI助手功能;还可导入私有知识库增强助手的能力。前端基于NLUX开发,支持定制化需求如样式调整和历史会话管理。服务端代码提供了调用大模型获取答案的接口。借助百炼平台,企业能迅速部署即时且个性化的在线服务,适应数字化转型的需求。
|
26天前
|
人工智能 Kubernetes Serverless
容器计算服务问题之阿里云在Serverless和AI大模型方面有哪些进展
容器计算服务问题之阿里云在Serverless和AI大模型方面有哪些进展
|
21天前
|
关系型数据库 Serverless 数据库
函数计算产品使用问题之如何访问阿里云的RDS
函数计算产品作为一种事件驱动的全托管计算服务,让用户能够专注于业务逻辑的编写,而无需关心底层服务器的管理与运维。你可以有效地利用函数计算产品来支撑各类应用场景,从简单的数据处理到复杂的业务逻辑,实现快速、高效、低成本的云上部署与运维。以下是一些关于使用函数计算产品的合集和要点,帮助你更好地理解和应用这一服务。
|
21天前
|
关系型数据库 MySQL Serverless
函数计算产品使用问题之调用RDS MySQL的步骤是怎样的
函数计算产品作为一种事件驱动的全托管计算服务,让用户能够专注于业务逻辑的编写,而无需关心底层服务器的管理与运维。你可以有效地利用函数计算产品来支撑各类应用场景,从简单的数据处理到复杂的业务逻辑,实现快速、高效、低成本的云上部署与运维。以下是一些关于使用函数计算产品的合集和要点,帮助你更好地理解和应用这一服务。
|
1月前
|
人工智能 运维 Serverless
报名参课丨解锁 Serverless+AI 新模式,拥有专属 AIGC 环境
Serverless 和 AI 大模型都是当前云上最火的技术方向,本次活动期望通过 Severless+AI 技术的强强联合,期待为客户提供基于 Serverless 技术实现 AI 推理部署平台的技术思路,一键解锁 AI 潜力,无需繁琐运维,降低 GPU 的使用成本、减少企业或个人创业的试错成本,让人人都可以拥有自己“专属”的 AIGC 环境成为可能。
|
1月前
|
人工智能 运维 Serverless
基于 Serverless 计算快速构建AI应用开发陪跑班开课啦!
云端问道第8期开课啦!参与直播间动手实操即可获得保温杯,参与直播间活动可抽奖无线充电器!!您将在课程中学习到基于Serverless技术函数计算FC实现基于Serverless 构建企业级AI应用的解决方案,降低 GPU的使用成本、减少企业或个人创业的试错成本、简化开发运维,让人人都可以拥有自己“专属”的AIGC环境成为可能!阿里云技术专家将手把手带您实操,还将针对实操中的问题进行一对一答疑!机会难得,快来参加吧!
248 9
|
20天前
|
人工智能 关系型数据库 MySQL
探索和体验云原生数据库PolarDB MySQL版在AI场景中的应用
探索和体验云原生数据库PolarDB MySQL版在AI场景中的应用
132 0

相关产品

  • 云数据库 RDS MySQL 版
  • 云数据库 RDS